Ajabaja, AI

Om någon ger sin hund till ett barn att gå ut med och hunden biter en tredje person, vem är ansvarig?

Då jag försökte diskutera ansvarsfrågor med AI-chatten Mistral, laddade botten upp med liknande jämförelser. Det står klart att storföretagen och utvecklarna av kommersiella AI-baserade tjänster försöker odla en AI-exceptionalism. Som om vanliga regler och normal etik inte skulle gälla AI-verktyg och dem som skapar och säljer dem. AI är annorlunda, farligt. AI är ett ogenomträngligt, oförutsägbart slutet system, vilket på något märkligt sätt skulle göra att det till ett autonomt subjekt, och dess upphovspersoner fria från ansvar. AI-agent som begrepp antyder ett aktörskap, där det är lätt att inkludera avvägningar med värderingar och moral.

Sakkunniga talar om att AI-system ”förstår” när de är i tester och kan då fungera enligt vad som väntas (”rätt”) medan de i produktion optimerar sin verksamhet och kan skippa kostsammare, mer ”etiska” tillvägagångssätt.

Man borde inte beskriva saken så. Det handlar om att systemen fungerar på olika sätt i olika kontexter. Det är inte egalt hur man formulerar detta. Att använda ord som ”förstå” tillskriver systemet onödigt aktörsskap. Att de som gör storkovan på att spinna AI-exceptionalism eldar på alla rubriker, ju mer dramatiska, dess bättre, borde göra oss extra eftertänksamma och försiktiga. Om de samtidigt lyckas introducera ett språk och tankefigurer, där de själva går ansvarsfria, ”vaddå, vi försökte ju varna er!”, oberoende vad som händer, är vi inne på en farlig väg.


Jag själv tänker mycket på hur kortlivade de enorma investeringarna i datacenter är, hur galen återbetalningstakten borde vara, och hur snabbt man borde klara av att utveckla elförsörjningen och hur det är sannolikt att vi om några år har lösningar som kräver en bråkdel av den beräkningskapacitet man behöver idag för många saker. Jag tänker på hur datakvaliteten på en del områden försämras i snabb takt, medan man för robotik ännu behöver vansinniga mängder träningsdata, som skaffas på mindre etiska sätt. Jag tittar på ettåringen som kastar saker i golvet 100 gånger om dagen, river ut alla böcker ur bokhyllan tre gånger om dagen och vänder upp och ner på sitt vattenglas en gång på fem minuter. Det här är på riktigt svåra saker, barnen gör inte detta för att driva sina föräldrar till vansinne, utan för att de måste.

Den amerikanske presidenten kom på att AI inte är ett bra varumärke längre och döpte om artificiell intelligens till superintelligens. Följden är, att på samma sätt som många numera talar om bara ”Golfen” för att undvika konflikter, talar de nu om att använda ”intelligens”. Vi har nått absurdum.