City Brain. Deepmind. Neural engine. Antydningarna från system eller företag inom artificiell intelligens (AI) är klara: Teknologin är mänsklig. Det är inte helt sant.
Inom AI-forskning dras gränsen mellan smal och bred AI. Den förra är AI som utför avgränsade uppgifter och tjänster, som att hitta mönster och ansikten i stora bildmaterial. Den senare tangerar mänsklig kognition där känslor och värderingar spelar in. Så pass självständig AI finns inte idag.
Vad som däremot finns är AI som blir allt bättre på att identifiera och klassificera människor.
Exempelvis har Kina systemet Citizen Score, där medborgare utifrån sökhistorik, köpmönster och innehåll i sociala medier ges en “social” kreditvärdighet som säger hur god socialist hen är. Det styr i sin tur vem som får banklån, visum och jobb.
Det väcker frågan om det är mänskligt att övervaka. Sett till historiens statsbildningar är det nog så. När skriften uppfanns, bland annat i Kina, kunde människan för första gången lagra information, data, utanför hjärnan.
När datamängderna växte uppstod ett behov att systematisera dem – och därmed en möjlighet för makthavare att inte bara överblicka utan övervaka. Ofta med motiveringen att förbättra för medborgare eller invånare.
Men det är vanskligt att mäta politisk förbättring objektivt. Det bygger alltid på godtyckliga värden som oftast kommer ovanifrån, vilket historikern James C. Scott mästerligt demonstrerat i böckerna “Seeing Like a State” och “The Art of Not Being Governed”. Så är det även nu.
I Kina vill Xi Jinping kväsa alla former av alternativa maktbaser som kan hota kommunistpartiet. Försökskaninerna är muslimska uighurer som idag lever i Xinjiangprovinsen under kraftig, AI-baserad övervakning.
Runtom i landet finns 200 miljoner kameror för att följa folkets alla rörelser, vilket matas in i systemet City Brain som i realtid kan positionera och identifiera alla. Allt utrymme för mötes- och tankefrihet raderas.
Listan över statliga missbruk av digitala teknologier sträcker sig lång, och handlar inte enbart om diktaturer. I USA använder ungefär 1 300 polis- och rättsmyndigheter sig av material från Amazons kameror för hemövervakning i polisiära utredningar. Men det finns också gott om exempel där AI gör nytta.
Googles dotterbolag Deepmind har på senare år brutit okänd mark när det gäller att modellera proteiners strukturer. Det ligger till grund för utvecklingen av vacciner och botemedel mot exempelvis Alzheimers. AI-driven bildanalys har fört screening för olika cancerformer framåt.
FN:s klimatpanel IPCC och de flesta klimatforskare övervakar klimatförändringar med hjälp av AI. Enskilda individer och journalist- eller forskarnätverk kan identifiera statlig propaganda och desinformation.
Svenska transportföretaget Einride använder AI för att avlasta människor och samtidigt förebygga olyckor genom självkörande last- och timmerbilar. I år levereras nya modeller som kan köra på motorvägar i 85 km/h.
AI är inte mänsklig. Den reflekterar dock mänsklig innovationskraft och nyfikenhet. Vissa använder AI till dåliga saker, andra till bättre. Det är inte säkert att det goda alltid segrar.
Men människan, enskilt och tillsammans, har makten att påverka utfallet.