När allt går fel med AI

I går kväll stod storasystrarna vid Stellas grav och tände ytterligare några ljus och försökte pula in dem bland alla blommor. Saknad, älskad är hon. Jag konstaterade att jag mest sörjer att hon inte kan vara med och ta del av vad allt våra barn gör, men vi konstaterade också enhälligt att vi alla är glada att hon inte behövde uppleva den senaste tidens politiska utveckling. Hennes hjärta hade brustit av raseri och sorg. Hon, som använde sina sista krafter för att bekämpa främlingsfientlighet.

I dagens Hesari fanns ett hårresande exempel på hur man kan missbruka teknologi, när det varken finns intresse eller vilja att försöka förstå vad det handlar om. De mest elementära insikter, dvs ungefär min nivå, inom artificiell intelligens, gör att man inser att det inte går att göra någon sorts lögndetektor för asylsökande med hjälp av ansiktsigenkänning. Som en av experterna i artikeln kommenterar, skulle det förutsätta att man har ett omfattande verifierat jämförbart datamaterial som grund. Var och hur tänkte man få tag i det? Det är verkligen en mycket farlig chimär att tro att datorprogram kan erbjuda absoluta sanningar, när det från början till slut handlar om sannolikheter. Det går helt enkelt inte att frånsäga sig ett moraliskt ansvar med hjälp av data och mjukvara. Även om det handlar om "intelligenta" redskap är det ändå alltid bara verktyg som används av människor, som bär ansvaret.

Finlands regering har i sin informationspolitiska utredning lyft fram både artificiell intelligens och etik. Men etiken handlar här mest om öppenhet och människors möjligheter att kontrollera uppgifter om dem själva, men man noterar även vikten av till exempel underliggande datas kvalitet.

"Frågor gällande riktlinjer i anslutning till artificiell intelligens handlar om algoritmers öppenhet, etisk och laglig grund, uppgifter som artificiell intelligens använder och deras transparens, rättigheter, ansvar och makt samt förhållandet mellan människa och maskin. [...] Vid upplärning av artificiell intelligens krävs etiska standarder för att stärka individens datasekretess samt säkerställande av datakvalitet och tillförlitlighet."

Det är motiverat att grunder i programmering ingår i grundskolans undervisning. På samma sätt som medborgarna måste kunna genomskåda reklam om skönhetskrämer som "innehåller DNA", bör vi kunna se när användning av algoritmer är berättigat och rimligt.

Det faktum att Europeiska kommissionen finansierar forskning inom artificell intelligens och söker lösningar för effektiv administration också vid gränserna är givetvis ok, men att man smyger in ytterst opålitliga och därmed oetiska hjälpmedel är en sak som verkligen borde väcka ramaskri i Europa. Det är också värt att studera vilka som står bakom dylika projekt. Det är sannerligen inte mitt Europa.

Män, kvinnor och chefer

Katainen ordnade krismöte, inbjöd organisationer och in marscherade mängder av män och några få kvinnor. Det som hände avspeglar verkliga, men ofta osynliga maktstrukturer. För det är ett faktum att många kvinnor inte finns på chefsposter, medan ofta män ofta gör det, trots att de kanske inte alls är lika kompetenta och dessutom inte sällan är sämre chefer. Vad beror det på?

Tomas Chamorro-Premuzic har skrivit en intressant text om ämnet, där han ser att grundorsaken finns i hur vi väljer ledare. Intuitionen påverkar oss och vi tenderar att helst se en ledare som är självsäker. Det handlar alltså om att vi låter oss påverkas av kontexten i en situation, så att vi inte handlar rationellt. Vi fokuserar på fel saker.

Nå väl, om nyckeln är ett gott självförtroende, som också tar sig i uttryck i en viss självsäkerhet i uppförandet, är kanske vägen att ändra på denna sak, att uppfostra flickor med dessa egenskaper? Skillnaden i hur barn bemöts beroende på kön är väl vetenskapligt belagd vad jag kan förstå. Och som mamma till både pojkar och flickor känns det som att jag nog fått det bekräftat mer än tillräckligt ofta, och inte alls så, att pojkarna alltid skulle ha det lättare, nästan tvärtom. Därmed inte sagt att inte pojkar och flickor kan vara väldigt olika (alla barn är olika) och också behöver olika typer av bemötande. Jag tycker också väldigt illa om att man moraliserar  - i synnerhet om hur flickor och deras mammor ska vara och bete sig, gällande vad barnen får klä på sig. Som att det skulle vara något oetiskt i att vilja växa upp till en kvinna, som kanske njuter av att vara kvinna. Att fördöma barn är inte trevligt.

Men hur uppfostrar man barn med ett gott självförtroende? Ska man berömma dem för allt de gör eller då de lyckas? Eller ska man bara uppmuntra dem att lära sig och att våga? För det är ju det som är skillnaden många gånger: en karl läser kraven i en arbetsplatsannons som "nice to have", medan kvinnan in i det sista tvekar och rannsakar sin kompetens och sin cv och undrar om hon kunde duga. Ofta är det så tror jag. Men att våga, hur lär man sig det? Minna Lindeberg hade här om veckan ett fint blogginlägg som tangerar detta, tycker jag. Men vi måste också vara uppmärksamma på hur vi väljer chefer. Det är inte bara flickorna som ska ändras på, det är vi alla som måste akta oss för att bete oss som Snorkfröken och "bara känna".

Patientskap

Camilla Strang har skrivit en viktig och bra insändare i dagens Hbl. Den handlar om patienters bristande integritetsskydd under läkarronder. Strang hänvisar också till en färsk avhandling av Riikka Lämsä, som behandlar patientrollen och kulturen på sjukhus. Jag råkade själv i våras höra en längre intervju med Lämsä, som gjordes av Kalle Haatanen, som gör bra vetenskapsjournalistik inom samhällsvetenskaper.

Under intervjun talade Lämsä om de djupt inrotade sjukhuskulturer som finns och som passiverar patienten till ett objekt för sjukvården. Detta är min formulering är inte säker på att Lämsä skulle godta mina exakta ordval, men idén var i alla fall att man på sjukhus har enhetliga rutiner och system, som utgår från tanken att patienten är sängbunden och oförmögen att vara aktiv på något som helst sätt, trots att detta i verkligheten inte alls är fallet alla gånger.

Till exempel på tal om ronderna tyckte Lämsä, att man bra kunde utgå från att patienterna tar sig till läkaren också på ett sjukhus, lika väl som de själva kunde hämta sin mat och äta någon annanstans än i sin säng om de kan det. Det handlar i grunden om patientsynen och förstås om prioriteringar. Jag kan i och för sig förstå att läkarna tycker det är både effektivt och trevligt att springa runt lite på avdelningarna och för en gångs skull slippa den eländiga datorn en stund. Lämsä talade också mycket om de starka hierarkierna som präglar sjukhuskulturen och om hur läkarnas auktoritet manifesteras på många olika sätt i rutinerna också i förhållande till sjukhusets övriga personal inte minst just under ronderna.

Jag har tidigare skrivit om hur informationssamhället undergräver experternas givna auktoritet och använt just medicinen som exempel. Men detta med auktoritet och jämställdhet är svårt och det kan bli så fel (inte minst i Sverige där brist på jämlikhet ofta sammanblandas med saker som respekt och auktoritet).

Men vi har en ny trend, som en del människor uppfattar som skrämmande och oroväckande: är man sjuk vill man ju att läkare ska komma och fixa en, inte att man själv ska behöva sätta sig in i komplicerade saker, ta ansvar och beslut. Den nya trenden handlar nämligen om patientens eget ansvar och självbestämmande som positiva och eftersträvansvärda saker i vården. Att öka dessa kan också ses som sätt att förbättra hälso- och sjukvården. Det handlar om empowerment, om att också den sjuka har kontroll och ansvar över sin egen vård. Det innebär att läkarens roll förändras och att de sakkunnigas främsta uppgift blir att handleda och undervisa patienterna. Samtidigt som detta inte får bli ett sätt att spara eller förminska samhällets och de sakkunnigas ansvar, ser jag det själv som en potentiellt mycket bra utveckling. Men det kräver ovillkorligt att vi har ett samhälle med ett bra skolsystem som lär människor vad vetenskapligt och kritiskt tänkande innebär. En människa som inte förmår resonera rationellt kan och ska inte ta ansvar för sin egen vård i lika hög grad. Men sådant borde vara undantag.

I slutändan är de förändrade omständigheterna ändå givna i och med att tillgången till information i dag är så fri som den är. I dag är stort sett all expertkontroll och censur vad gäller "vetenskap" och vetenskap redan är borta. Lika bra att ge oss både ansvar och kunskap vid sidan av all den information vi redan får.

Ett exempel på hur och varför detta kunde vara en bra väg att gå gäller (surprise, surprise) informationsförvaltningen. Om alla patienter har rätt att få tillgång till alla sina medicinska uppgifter (vilket man redan har, men om det skulle implementeras ordentligt och digitalt) är det inget som hindrar att var och en samlar sina material på en minnepinne i plånboken eller någonstans i molnet och enkelt kan ge läkare tillgång till alla material vid behov. Inbesparing och effektivering skulle vara omedelbar i väntan på bättre it-system.

Det är också allmänt känt att delaktighet och inflytande motiverar, vilket inte är helt irrelevant då det gäller att till exempel vara noggrann med diet eller mediciner. Man borde alltså kunna tänka att man då man är sjuk, går man till läkaren för att få råd och konsultation, inte för att systemet ska fixa en frisk. Det är både en befriande och en ganska betungande tanke, egentligen.

Guantanamo captive's hospital beds. Wikimedia.

Webben och makten

I mitt arbete som chef för Brages Pressarkiv har jag på ett mycket konkret sätt kommit att arbeta med frågor om hur den nya digitala offentligheten, där i praktiken alla människor har möjlighet att delta, har kommit att påverka vårt samhälle. Som historiker och informationsexpert är jag mycket engagerad i frågan om hur och vad man kan och bör ta till vara av allt det digitala material som uppstår i dag. Frågeställningen är mycket komplex och min uppfattning är att det råder långt ifrån konsensus kring dessa frågor. I själva verket har man inte ens börjat arbeta med dem målmedvetet. 

Det skulle vara av stort värde att få veta hur det nya medielandskapet har påverkat det politiska beslutsfattandet på olika håll i världen. Journalisternas, politikernas och forskarnas verksamhetsvillkor i offentligheten har förändrats när en radikal demokratisering skett och för att tillgången på information och dess flöden har ökat och förändrats. De relativt starka trenderna mot öppnande av all slags data och nya sätt att påverka opinioner på webben utgör stora förändringar, som på grund av mediernas instabilitet gör att också dagens arkivarier står inför en radikalt ny situation. I USA är har man kommit långt exempelvis med Internet Archive och Library of Congress insamling av mikrobloggen Twitter (pdf). Men hur resonerar man kring adressinsamlingar, diskussionsforum eller myndigheternas öppna data och bevarandet av dem? Hur är det med hackerverksamheten och dokumentationen av den: hur görs den, bevaras den och är den tillgänglig för akademisk forskning? Har allt detta en samhällelig, politisk och historisk tyngd, som gör att detta får den uppmärksamhet de förtjänar som forsknings- och arkivmaterial? Nyckelfrågan är kanske hur fungerar makt i den nya offentligheten och hur används den av beslutsfattare och av aktivister av olika slag? Och vad innebär öppen myndighetsdata egentligen, på riktigt?

Det är mycket intressanta frågor tycker jag, nästan skrämmande stora. Och just som jag satt och funderade på allt detta kom nyheten om att man hackat en amerikansk myndighetssajt till minnet av  Aaron Swartz, det unga kodargeniet och öppenhetsaktivisten som nyligen tog livet av sig efter att ha blivit indragen i en absurd rättsprocess som hotade förstöra hans liv. Webben som arena för maktutövning är oerhört intressant. 

Några frågor till twittereliten

Det är inte många veckor sedan filosofen Hannes Nykänen i finlandssvensk radio läste lusen av akademiska humanister för att inte ta sin plats i den offentliga debatten. Egentligen handlade det väl om att erbjuda välunderbyggd samtids- och samhällskritik. Stora delar av vårt samhälle styrs uppenbarligen av värderingar som verkligen borde synas i sömmarna. Resultat- och nyttotänkandet har gjort samhället historielöst och på många sätt omänskligt. Bildningen har tappat sitt egenvärde till förmån för specialisering och resultatorientering.

Kritikerrollen har i många samhällen burits av kretsar som kallats intellektuella. De har ofta bestått av bildade kreativa personer som förmått ta fram nya synvinklar och idéer. De har lyft fram frågor om värderingar, frågor om rättvisa och sanning. Ofta har de förmedlat sina tankar genom konst eller litteratur, ibland också genom politisk aktivism. Till exempel till sjuttiotalets vänsterrörelse hör de intellektuella vänsterpolitikerna, som med stor indignation talade om mänskliga rättigheter i ett globalt perspektiv. Ett omutligt engagemang för mänsklig värdighet för alla människor. Respekt, tolerans och rättvisa, må vara i delvis ohållbara ideologiska förpackningar. Det finns en del sådana personer som fortfarande är aktiva. Jag känner stor respekt inför dem. De har det som på engelska kallas zeal.

I grunden finns en vilja att respektera människan och att vilja förändra samhället mot det bättre. Jag har en liten känsla av att dessa gamla traditioner och värderingar nu tagit en ny form och kommit in köksvägen. För vad talar man om bland twittereliten? Jo, om frihet och respekt, om gott ledarskap, tolerans, om rättvisa och öppenhet …

Men är denna diskussion och förändringsvilja helt opolitisk? Eller lyckas man göra en intellektuell avledningsmanöver genom att helt föra debatten på individnivå i stället på för samhällsnivå? Hur mycket handlar #prataomdet om politik? Är det så att dagens intellektuella finns i webbeliten, som inte drar sig för att moralisera (i positiv mening)?

Jag tycker själv att diskussionen faktiskt väldigt ofta präglas av traditionellt "intellektuella" teman. Samtidigt saknas den gamla akademiska bildningen i debatten, man är helt osannolikt historielös. Webben lever något farligt med ett mycket kort mannaminne. Man lever i nuet. Det som hände för ett år sedan år ointressant, det som hände för tio år sedan fullständigt irrelevant. För att inte tala om det som hände för hundra år sedan. Och ändå beror precis allt i dag på hur det som hände innan gick till och slutade. Man riskerar att missa mycket om man inte håller i minnet att det funnits alternativ; att alla system, program, tjänster etc är följder av mängder av medvetna val och en massa slump. Rävarna vet och kan ju detta, de har följt med, men de återknyter inte särskilt ofta.

Och så måste jag ge Nykänen rätt: akademiska humanister är olovligt tysta, diskuterar för sig i egna forum. Vad är orsak och vad är verkan? Varför anses det inte självklart att man läst klassisk litteratur längre, eller man vet något om bildkonst eller klassisk musik? Om man inte förväntas vara bildad, kan man också ställa sig upp och kalla julen ett svenskt fornminne som bör beskyddas utan att skämmas. Eller kalla modern konst för onödig. Så korkade saker borde man inte täckas säga. Varför har vi skapat en sådant samhälle där man kan göra sådant?

Människoordningar

Jag reagerade spontant negativt då jag hörde minister Thors kalla burkhan en religiös symbol. Det är det väl inte! Fastän människor borde väl ha tolkningsföreträde vad gäller för dem viktiga, personliga beteckningar, så som vad man kallar dem. Samtidigt kan vad som helst vara en religiös symbol, beroende på vilken innebörd man ger objektet. En näsduk kan vara en religiös symbol för någon. Alltså förlorar det religiösa sitt värde som argument. Det handlar om mänskliga rättigheter. Vilket nödvändigtvis inte gör saken så mycket enklare.

”Man måste få diskutera problemen med invandringen öppet.” Med det påståendet vill man låta påskina att det i Finland skulle finnas något krav på politisk korrekthet. Så är det inte. I vårt land kan både medier, politiker och vem som helst kläcka ur sig hur korkade, felaktiga, oupplysta påståenden som helst. Inte minst om invandrare. Vad man kan säga om statsministerns privatliv kan man däremot både pröva i rätten och ge oändliga mängder spaltmillimeter. Men varför säger ingen i statsledningen i från, när folk i offentligheten pekar ut vissa befolkningsgrupper som suspekta eller skyldiga till andras svårigheter och misär? Den usla debatten beror inte på politisk korrekthet i vårt land, utan avsaknaden av en tillstymmelse till sådan. Det enda som är heligt är krigsveteranerna.

Men någon ordning på folk måste man ju ha? Under skolans gymnastiktimmar skulle man under min tid ställa upp sig längdordning. Dylikt fysiskt tvång och organiserande ger mig ångest. Det gav det då redan, när jag var barn, men det var först senare jag insåg vad det handlar om. Det handlar om militära och nationalistiska traditioner inom skolan. Ideologiska kvarlämningar, liksom religionstimmarnas bön eller morgonsamlingens psalmer. Men vilka andra sätt att ordna människor kunde finnas? Alfabetiskt, enligt vikt, enligt födelsedag, färg på kläderna, färg på ögonen, likhet med den östfinska rasen … ? Men någon ordning måste man ju ha. Det kunde vara en rolig övning för eleverna under en livsåskådningstimme. Och intressant för läraren.