söndag 4 november 2018

När allt går fel med AI



I går kväll stod storasystrarna vid Stellas grav och tände ytterligare några ljus och försökte pula in dem bland alla blommor. Saknad, älskad är hon. Jag konstaterade att jag mest sörjer att hon inte kan vara med och ta del av vad allt våra barn gör, men vi konstaterade också enhälligt att vi alla är glada att hon inte behövde uppleva den senaste tidens politiska utveckling. Hennes hjärta hade brustit av raseri och sorg. Hon, som använde sina sista krafter för att bekämpa främlingsfientlighet.

I dagens Hesari fanns ett hårresande exempel på hur man kan missbruka teknologi, när det varken finns intresse eller vilja att försöka förstå vad det handlar om. De mest elementära insikter, dvs ungefär min nivå, inom artificiell intelligens, gör att man inser att det inte går att göra någon sorts lögndetektor för asylsökande med hjälp av ansiktsigenkänning. Som en av experterna i artikeln kommenterar, skulle det förutsätta att man har ett omfattande verifierat jämförbart datamaterial som grund. Var och hur tänkte man få tag i det? Det är verkligen en mycket farlig chimär att tro att datorprogram kan erbjuda absoluta sanningar, när det från början till slut handlar om sannolikheter. Det går helt enkelt inte att frånsäga sig ett moraliskt ansvar med hjälp av data och mjukvara. Även om det handlar om "intelligenta" redskap är det ändå alltid bara verktyg som används av människor, som bär ansvaret.

Finlands regering har i sin informationspolitiska utredning lyft fram både artificiell intelligens och etik. Men etiken handlar här mest om öppenhet och människors möjligheter att kontrollera uppgifter om dem själva, men man noterar även vikten av till exempel underliggande datas kvalitet.
"Frågor gällande riktlinjer i anslutning till artificiell intelligens handlar om algoritmers öppenhet, etisk och laglig grund, uppgifter som artificiell intelligens använder och deras transparens, rättigheter, ansvar och makt samt förhållandet mellan människa och maskin. [...] Vid upplärning av artificiell intelligens krävs etiska standarder för att stärka individens datasekretess samt säkerställande av datakvalitet och tillförlitlighet."
Det är motiverat att grunder i programmering ingår i grundskolans undervisning. På samma sätt som medborgarna måste kunna genomskåda reklam om skönhetskrämer som "innehåller DNA", bör vi kunna se när användning av algoritmer är berättigat och rimligt.

Det faktum att Europeiska kommissionen finansierar forskning inom artificell intelligens och söker lösningar för effektiv administration också vid gränserna är givetvis ok, men att man smyger in ytterst opålitliga och därmed oetiska hjälpmedel är en sak som verkligen borde väcka ramaskri i Europa. Det är också värt att studera vilka som står bakom dylika projekt. Det är sannerligen inte mitt Europa.



Inga kommentarer:

Skicka en kommentar