Digital mångfald och enfald

Jakten på hatpropaganda, "hate speech" går het. Man försöker göra det både maskinellt  och manuellt. På Facebook tror man på ett entydigt, globalt och allmänmänskligt binärt regelverk för människor att ty sig till, när de bedömer vad som ska tas bort och vad som får vara kvar på webben. Reglerna har blivit allt mer specifika. Samtidigt är det meningen är att det ska vara samma regler som gäller för t ex vad som är för mycket nakenhet,  oberoende av kultur. Eller att det inte skulle vara någon skillnad på om man skäller på en etnisk grupp oberoende av om den är i en minoritetsställning, kanske hotad, eller är en majoritetskultur med trygg ställning i samhällets maktapparat.

Då det gäller användning av maskininlärning har vi samma problem som alltid: data reproducerar också strukturer och fenomen som är oönskade, om man inte aktivt ingriper med den human utvärdering. Att medvetet försöka programmera etik är något man idag ändå är tvungen till. Man kan kanske åstadkomma förändringar som för samhället i en riktning som av de flesta uppfattas som bättre - om man lyckas implementera faktiskt delade allmänmänskliga värderingar. Då det gäller relativt enkla val kan man förutom rena "värdekalkyler" försöka inkludera data om en regerande allmän moral. Ett problem är enligt mig att moral ytterst baserar sig på känslor, eller åtminstone är de en mycket viktig del av att fatta beslut om vad som är upprörande, skadligt eller fel. Men de är svårt att tänka sig en mjukvara som lider av dåligt samvete eller kan förhålla sig genuint empatiskt och kanske till och med fatta ett (till synes) irrationellt beslut på basis av det.

Ett annat grundproblem är alltså kontextens betydelse, vilket blir pinsamt tydligt just i jakten på hatpropaganda. Den naiva tanken om att det vore möjligt att nog ha olika språkversioner av en webbtjänst, men på alla andra sätt helt frånse kulturella och samhälleliga skillnader, är förutom tekniskt också etiskt bekväm. Man låtsas att ens egen referens och kontext är universell, varmed man slipper den besvärliga frågan om vem som har tolkningsföreträde och rätt att avgöra vad som är tillåtet vs förbjudet i olika sammanhang. Att saker som är tabu, stötande eller förbjudet och i vilken krets (ensam, i intima förhållanden, i familjen, i en närmare krets, inför ett större gäng, "offentligt") varierar otroligt mycket, är ett obekvämt faktum. De många dimensionerna som kontexter av politik och makt, humor, satir eller konst ger, kollrar på nolltid bort både maskiner och de anonyma människor som ska tolka material på några sekunder.

De överstora webbföretagen har problem också på andra sätt. Silicon Valley blir allt mer trögt och lider av enögdhet och startup-ekosystemets utarmning. De stora slukar de små, de begåvade individerna försvinner in i storbolagens slutna bubblor. En del ploppar ut, andra lyckas hålla sin profil, men många försvinner för evigt. Jag tror i alla fall att här finns en orsak att det kommit en hel del framgångsrika bolag från Sverige och Finland. Den orsaken är, att det finns mer utrymme i marginalen. En ytterligare fördel är att små kulturer har lättare att förstå behovet av mångfald. Vi har en stor styrka här. Problemet finns i bristen på kapital och mänskliga resurser. Lyckligtvis har vi inte en helt lika debil invandringspolitik som USA och Storbritannien utmärker sig med. Tvärtom har vi en möjlighet att fylla det skriande, och jag menar verkligen skriande, behovet på starkt kunnande inom åtminstone vissa delområden inom it med människor från andra länder och kulturer.