Att störta AI-imperiet

Medan den teknokratiska-autoritär tävlingen om utvecklingen av avancerad artificiell intelligens-teknologi fortsätter i full fart, är Silicon Valley:s regleringsagenda redan på nivå med – och till och med överträffar – många länders. Men mellan de globala supermakterna och AI-jättarna finns dock en möjlighet för Europa att söka något bättre. Intervju med den prisbelönta journalisten och författaren Karen Hao.

Alessio Giussani: Många metaforer har använts för att beskriva den nuvarande modellen för utveckling av artificiell intelligens – till exempel en papegoja eller en spegel. Varför valde du just imperiets metafor?

Karen Hao: Jag tycker att dessa metaforer är mycket användbara. Jag fokuserar på "imperiet" eftersom jag inte bara undersöker själva den tekniska apparaten och vad som händer när den används i samhället, utan också produktionen av teknologin och de aktörer som samlar på sig enorm ekonomisk och politisk makt för att skapa den.

Jag kallar detta system för ett imperium av fyra huvudskäl. För det första kräver dessa företag resurser som inte är deras: individers data, samt författare och skapare av verk. För det andra utnyttjar de arbetskraften extremt mycket, både de anställda som utnyttjas i tillverkningsprocessen och i leveranskedjorna för teknologier, och de som får sina arbetsrättigheter inskränkta när teknologin införs.

Det tredje är informationskontroll. En av de viktigaste egenskaperna hos imperier är förmågan att filtrera all kunskapsproduktion och information genom deras filter, och detta gör AI-företagen också. De kontrollerar och censurerar vetenskapen genom att finansiellt stödja de flesta AI-forskningsprojekten och bygga informations- och kommunikationsteknologier som de vill göra till centrala portaler, där alla andra kopplas till världen, inklusive utbildning.

Slutligen döljer de detta bakom ett civilisationsuppdrag. De hävdar att de arbetar med detta för att till slut tillhandahålla en teknologi som lyfter mänskligheten till en utopisk tillstånd, och om de utvecklar den framför "bad guys" – vilket ofta betyder Kina – så riskerar vi att hamna i en dystopisk tillvaro. Det är en slags religiös narrativ som också var vanligt i gamla imperier.

AI-imperiet, som du beskriver det, är inte begränsat till ett företag; det är ett system, en logik. Vad ligger bakom uppmärksamheten mot OpenAI och dess VD, Sam Altman?

Ett svar är att människor behöver berättelser för att konkretisera det som annars skulle förbli en abstrakt idé. Men OpenAI är särskilt intressant eftersom de har fattat alla viktiga beslut som har förändrat branschstandarder och lett till imperiebyggande. Det var OpenAI som bestämde sig för att växa till varje pris, arbeta med stora språkmodeller och skapa chatbot-liknande gränssnitt för dem. Nästan allt som allmänheten idag associerar med artificiell intelligens, bestämdes först inom OpenAI:s väggar.

Om vi berättar den här historien blir det mycket tydligare att artificiell intelligens inte är oundvikligt, eftersom vi inser att det är riktiga människor som fattat besluten baserat på deras värderingar, världsbild och personliga hämndbegär – oavsett vad som egentligen har format AI:s utvecklingsbana. Sam Altmans ideologier genomsyrar inte bara modellen i abstrakt mening. Man hör ofta frasen att modeller speglar sina skapare, men jag ville visa hur detta faktiskt sker. Det handlar om företag, människor och den ekonomiska och ideologiska miljö de är en del av.

Allt eftersom dessa teknologier blir mer effektiva, blir kontrollen över deras användning en existentiell fråga. Vi såg att Big Tech böjde sig inför Trump vid hans andra installation, men vi ser också att VD:ar för företag inom AI-området alltmer vänder sig mot regeringen. Vem kommer till slut att ha sista ordet – staten eller privata företag?

Det pågår en kamp om vem som ska fatta besluten. Jag ser relationen mellan Washington och Silicon Valley som en bekvämlighetsallians, men mycket spänd. De representerar två olika imperiemodeller, båda med sina egna imperieplaner. Båda försöker expandera och vill bokstavligen ta över fler områden från andra länder, men Trump-administrationen ser AI-företagen som verktyg för statens imperiella ambitioner. Samtidigt ser Silicon Valley Trump-administrationen som ett verktyg för sina egna imperieambitioner, men de är egentligen inte på samma våglängd, eftersom båda vill vara den högsta myndigheten som når toppen.

Det har funnits tillfällen då den amerikanska regeringen visat att den fortfarande är herre – när Trump och Musk stötte samman, blev Musk avskedad. Men när försvarsdepartementet konfronterades med Anthropic, visade det sig att företaget var starkare: försvarsministern Pete Hegseth föreslog ett "nukleärt alternativ", hotade att klassificera företaget som en försörjningskedjorisk – som ett sista verktyg för att tvinga Anthropic att lyda – men företaget vägrade ändå att böja sig. Pinsamt nog blev försvarsdepartementet djupt beroende av en privat aktör som vägrade samarbeta enligt regeringens villkor, och regeringen kan inte göra något åt det.

Båda imperieaktörerna måste hållas ansvariga, och detta ansvar kan inte bara vila på dem; det måste komma från folket. Det måste byggas upp från gräsrotsnivå, i en organisering som växer fram över hela världen, inklusive i USA. Hur mycket detta bekvämlighetsallians kan verka ogenomtränglig är i själva verket mycket skört, och det finns möjligheter att påskynda dess fall genom att öka trycket på dess svaga punkter.

Istället för att se artificiell intelligens som en global tävling mellan gott och ont, bör vi tänka på vilken framtidsbild vi har för samhället.

Den nuvarande utvecklingen av artificiell intelligens verkar som en tävling mot botten mellan rivaliserande företag och globala supermakter. Vilken roll har den geopolitiska konkurrensen med Kina spelat i att AI hamnat i den nuvarande svåra situationen?

Kina är ett kort som Silicon Valley har spelat i över ett decennium, praktiskt taget sedan de utvisades från Kina. Men om vi granskar tidigare resultat av detta argument, ser vi att verkligheten alltid har varit motsatsen till vad Silicon Valley förutspådde.

De hävdade att bristen på reglering i Silicon Valley – och Kinas exportrestriktioner för reglering – skulle göra att amerikansk teknik skulle dominera världen. Men TikTok är den mest populära sociala medieplattformen, och kinesiska öppna källkodsmodeller för AI blir alltmer populära globalt, även i USA. De lovade också att Silicon Valleys dominans skulle ha en liberaliserande effekt på världen, men detta blev inte fallet; deras påverkan har i stället varit djupt illiberal. En extrem erosion av demokratiska institutioner och en snabb accelerering av demokratins tillbakagång har observerats, vilket också har främjats av plattformar från Silicon Valley och AI-teknologier.

Istället för att se artificiell intelligens som en global tävling mellan gott och ont, bör vi tänka på vilken framtidsbild vi har för samhället, vilka AI-teknologier som skulle stödja denna framtidsbild, och vilka resurser vi behöver för att förverkliga den. Vi bör inte tävla i en kamp som definieras av Silicon Valley, utan i de idéer och värderingar vi vill bevara. Och jag tror att Europa har en möjlighet att visa världen en tredje väg, som skiljer sig från USA:s och Kinas, och som sätter nya regler.

EU-kommissionen har nyligen antagit ett paket för teknologisk suveränitet, som är en del av ansträngningarna att Europa ska följa sin egen teknologiska väg. Hur formulerar vi denna framtidsvision så att vi inte bara får en övervakningsbaserad, oligarkisk affärsmodell i europeisk tappning?

Den ledstjärna Europa bör följa är inte suveränitet för dess egen skull, utan att nå den. Europa – eller åtminstone en stor del av det – är en av de sista bastionerna för demokrati i världen. Det stödjer mänskliga rättigheter och friheter, och behöver teknologisk suveränitet för att främja dessa värden. Så länge de är extremt beroende av system som utvecklas på auktoritäraste sätt och som försöker undergräva europeiska samhällen, kan de inte upprätthålla sina värderingar.

Begreppet suveränitet tenderar att bli otydligt om vi börjar se det som ett självändamål. Det måste vara ett verktyg för att nå ett mål.

Vilka koalitioner, intressegrupper eller konfliktytor bör vi utgå ifrån för att bygga denna alternativa framtidsvision?

För det första måste vi se AI-styrning i ett bredare perspektiv. Till exempel är stärkandet av arbetstagares rättigheter och skyddet av det civila samhället en del av AI-styrningen. Studenter, lärare och vårdpersonal måste också sitta vid bordet för att hjälpa till att forma och ifrågasätta hur artificiell intelligens utvecklas och används i samhället. Utbildning är avgörande, både som sektorspecifik och som en koalition vi måste involvera, samt för att öka den sociala förståelsen för AI.

En annan viktig aspekt är finansieringen av AI-forskare och entreprenörer för att förstå de tekniska detaljerna i deras utveckling och hur den ska tillämpas. Men vi kan inte bara ge dem pengar utan att ge resten av samhället en röst; annars riskerar vi att upprepa de problem vi ser i USA, där beslut ofta fattas av teknokrater eller teknokonservativa.

Vi börjar inte från noll. Mycket arbete har redan gjorts för att definiera gemensamma mål som samhället bör sträva efter. Till exempel de hållbara utvecklingsmålen. Det kan vara en utgångspunkt för att bestämma hur vi finansierar innovation inom AI.

De nuvarande narrativen kring AI-teknologier är mycket polariserade. Å ena sidan finns de som hävdar att dessa teknologier inte är något särskilt nytt och att bubblan snart spricker. Å andra sidan finns de som menar att AI kommer att omforma våra liv, revolutionera leveranskedjor och göra oss alla överflödiga. Vad tycker du om dessa olika ståndpunkter?

Det är sant att många tenderar att överdriva fördelarna utan att ta hänsyn till kostnaderna för teknologierna, eller att de överdriver kostnaderna utan att se fördelarna. Men jag tror att en tillräckligt stor andel av oss håller med om att vi vill dra nytta av AI:s fördelar, men inte på bekostnad av vårt värdiga liv – vilket inkluderar god hälsovård, ekonomiska möjligheter, en hälsosam miljö och en blomstrande planet. Det är den mest balanserade inställningen.

AI (artificiell intelligens) är ett samlingsbegrepp för många olika teknologier, så vi måste noga överväga vilka vi ska investera i och vilka nya teknologier vi vill utveckla, eftersom varje val innebär kompromisser; vissa är i linje med den framtid vi vill bygga, andra inte. Vi måste göra kloka val.

AI (artificiell intelligens) omfattar många olika teknologier, så vi måste noga överväga vilka vi ska satsa på och vilka nya vi vill utveckla.

Hur förhåller du dig till de befintliga AI-verktygen?

Jag använder dem inte av tre huvudsakliga skäl. För det första på grund av min etiska ståndpunkt. För det andra för att skydda privatlivet: jag granskar dessa företag, och de är i slutändan de mest effektiva övervakningsteknologier som någonsin uppfunnits. För det tredje är dessa verktyg inte särskilt användbara för den specifika kompetensuppsättning jag behöver för mitt arbete.

Jag säger inte att alla måste göra samma sak. Jag har pratat med många som tydligt tjänar på dessa verktyg, eller som är tvungna att använda dem som en del av sina yrkesroller. Lösningen på dagens problem är snarare att göra samma sak som vi gjort i andra branscher, som modeindustrin. När vi insåg att mycket av våra kläder tillverkas under fruktansvärda förhållanden, slängde vi inte bara plaggen. Det krävdes många konsument- och arbetarrörelser, statlig reglering och allmän opinion för att få branschen att förändras. Visst, modeindustrin är fortfarande långt ifrån perfekt, men idag finns åtminstone alternativ, och konsumenterna kan rösta med plånboken för att stödja vissa leveranskedjor och företagsmetoder.

Samma sak måste vi göra med AI. Just nu finns det inte tillräckligt många alternativ för användarna, och för att detta ska förändras krävs fler arbetarrörelser och ett större offentligt motstånd. De som kan avstå från att använda dessa teknologier bör bojkotta dem, och regeringar måste ingripa för att hjälpa till att skapa nya marknader för alternativa lösningar.

Konsumenternas inflytande är viktigt, men det är inte det enda. Som individer, arbetstagare, lärare och medborgare måste vi fundera på hur vi kan använda dessa roller för att förbättra utvecklingen av artificiell intelligens.