Het omverwerpen van het AI-rijk

Terwijl de technocratische autoritaire competitie voor de ontwikkeling van geavanceerde kunstmatige intelligentietechnologieën op volle toeren doorgaat, weegt de invloed van Silicon Valley op regelgevende agenda's al op – en zelfs overtreft – die van vele landen. Tussen de ambities van de wereldwijde supermachten en de AI-giganten krijgt Europa echter de kans om naar iets beters te zoeken. Interview met de bekroonde journaliste en schrijfster, Karen Hao.

Alessio Giussani: Er zijn veel metaforen gebruikt om het huidige model voor de ontwikkeling van kunstmatige intelligentie te beschrijven – bijvoorbeeld een papegaai of een spiegel. Waarom koos u juist voor de metafoor van het rijk?

Karen Hao: Ik denk dat deze metaforen allemaal uiterst nuttig zijn. Ik focus op het „rijk” omdat ik niet alleen de technologische middelen zelf en wat er gebeurt wanneer ze in de samenleving worden toegepast, wil onderzoeken, maar ook de productie van de technologie en de actoren die enorme economische en politieke macht verzamelen voor de productie ervan.

Ik noem dit systeem om vier hoofdredenen een rijk. Ten eerste, deze bedrijven maken gebruik van hulpbronnen die niet van hen zijn: de gegevens van individuen, evenals het werk van schrijvers en makers. Ten tweede, ze exploiteren de arbeidskrachten op buitengewoon grote schaal, zowel de werknemers die in het productieproces en de toeleveringsketens van de technologie worden uitgebuit, als degenen wiens arbeidsrechten worden aangetast bij de invoering van de technologie.

De derde reden betreft informatiecontrole. Een van de belangrijkste kenmerken van de expansie van rijken is het vermogen om alle kennisproductie en informatie door hun filters te laten gaan, en dat doen AI-bedrijven ook. Ze controleren en censureren wetenschap door de meeste AI-onderzoekers financieel te ondersteunen en door informatie-technologieën te ontwikkelen die als centrale poorten dienen, waardoor iedereen zich verbindt met de wereld, inclusief het onderwijs.

Tot slot verpakken ze dit alles in een civilisatie-missie. Ze beweren dat ze dit werk doen omdat ze uiteindelijk technologie willen ontwikkelen die de mensheid naar een utopische staat brengt, en dat als de „slechteriken” – meestal China – het ontwikkelen, we in een dystopische toestand terechtkomen. Het is een soort religieus narratief dat ook bij oude rijken vaak voorkwam.

Het AI-rijk, zoals u het beschrijft, beperkt zich niet tot één bedrijf; het is een systeem, een logica. Wat ligt er achter de aandacht voor OpenAI en haar CEO, Sam Altman?

Een antwoord is dat mensen verhalen nodig hebben die helpen om het wat abstracte idee concreet te maken. Maar OpenAI is ook bijzonder interessant omdat het alle belangrijke beslissingen heeft genomen die de normen in de industrie hebben veranderd en die richting aan het opbouwen van een rijk geven. OpenAI was degene die besloot dat ze zich op elke manier wilden uitbreiden, met grote taalmodellen en een chatbot-achtige interface. Bijna alles wat het publiek vandaag met AI associeert, is eerst binnen de muren van OpenAI beslist.

Als we dit verhaal vertellen, wordt veel duidelijker dat kunstmatige intelligentie niet onvermijdelijk is, omdat we inzien dat echte mensen die beslissingen hebben genomen op basis van hun waarden, wereldbeeld en persoonlijke wrok – wat het ook was dat de koers van AI-ontwikkeling daadwerkelijk heeft bepaald. Sam Altman’s ideologieën doordringen niet alleen abstract de modellen, maar beïnvloeden ze. Het bekende gezegde dat modellen de makers weerspiegelen, wil ik laten zien hoe dat in werkelijkheid gebeurt. Het gaat om de bedrijven, de mensen, en de economische en ideologische omgeving waarin ze opereren.

Naarmate deze technologieën efficiënter worden, wordt het verkrijgen van controle over hun toepassing een existentiële vraag. We zagen dat Big Tech zich buigde voor Trump tijdens zijn tweede inauguratie, maar we zien ook dat CEO’s in AI-bedrijven zich steeds meer tegen de overheid keren. Wie krijgt uiteindelijk het laatste woord – de staat of de private bedrijven?

Er is een strijd gaande over wie de beslissingen zal nemen. Ik zie de relatie tussen Washington en Silicon Valley als een convenience-alliantie, maar wel heel gespannen. Ze vertegenwoordigen twee verschillende rijkenmodellen, elk met hun eigen imperialistische plannen. Beiden proberen uit te breiden en willen letterlijk meer gebieden overnemen van andere landen, maar de Trump-regering ziet AI-bedrijven als instrumenten voor de imperialistische ambities van de staat. Tegelijkertijd beschouwt Silicon Valley de Trump-regering als een instrument voor haar eigen imperialistische ambities, maar ze zitten niet op dezelfde golflengte, omdat beiden willen dat zij de ultieme autoriteit worden die aan de top staat.

Er waren momenten dat de Amerikaanse regering bewees dat zij nog steeds de baas was – bijvoorbeeld toen Trump en Musk botsten, en Musk werd ontslagen. Maar toen het Department of Defense in conflict kwam met Anthropic, bewees het bedrijf dat zij in dat geval de sterkere partij was: minister Pete Hegseth stelde een „nucleair optie” voor, door te dreigen dat het bedrijf als een supply chain-risico zou worden bestempeld – als ultiem middel om Anthropic te dwingen te gehoorzamen – maar het bedrijf weigerde nog steeds toe te geven. Het is pijnlijk dat het Department of Defense diep afhankelijk is geworden van een private partij die niet wil samenwerken volgens de voorwaarden van de overheid, en dat de overheid niets kan doen.

Beide imperialistische actoren moeten verantwoordelijk worden gehouden, en die verantwoordelijkheid zal niet van hen komen; die moet van het volk komen. Van onderop, vanuit een bottom-up organisatie die haar bloei begint te zien over de hele wereld, inclusief de Verenigde Staten. Hoe ondoorgrondelijk deze convenience-alliantie ook lijkt, ze is in werkelijkheid uiterst broos, en er liggen kansen om haar te versnellen door meer druk uit te oefenen op haar zwakke punten.

In plaats van AI te zien als een wereldwijde competitie tussen goeden en slechten, zouden we moeten nadenken over welke toekomst we voor ogen hebben voor de samenleving.

De huidige stand van de AI-ontwikkeling lijkt op een competitieve race naar de bodem tussen rivaliserende bedrijven en wereldwijde supermachten. Welke rol speelde de geopolitieke concurrentie met China in het ontstaan van de huidige moeilijke situatie?

China is een kaart die Silicon Valley al een decennium speelt, sinds ze China hebben uitgezet. Maar als we de eerdere resultaten van die redenering bekijken, zien we dat in werkelijkheid altijd het tegenovergestelde gebeurde van wat Silicon Valley voorspelde.

Ze beweerden dat het gebrek aan regulering in Silicon Valley – en de regulering via exportbeperkingen door China – zou leiden tot wereldwijde dominantie van Amerikaanse technologie. Toch is TikTok de populairste sociale mediaplatform, en worden Chinese open-source AI-modellen steeds populairder wereldwijd, ook in de Verenigde Staten. Ze beloofden dat de dominantie van Silicon Valley een liberale invloed op de wereld zou hebben, maar dat is niet uitgekomen; in tegendeel, hun invloed was diep illiberaal. Er was een enorme erosie van democratische instellingen en een snelle achteruitgang van democratie, mede mogelijk gemaakt door platforms uit Silicon Valley en AI-technologieën.

In plaats van AI te zien als een wereldwijde competitie tussen goeden en slechten, zouden we moeten nadenken over welke toekomst we voor ogen hebben voor de samenleving, welke AI-technologieën dat ondersteunen, en over welke hulpbronnen we nodig hebben om dat te realiseren. We zouden niet in de competitie moeten stappen die Silicon Valley bepaalt, maar in de ideeën en waarden die we willen behouden. En ik geloof dat Europa hier de mogelijkheid heeft om een derde weg te laten zien, die anders is dan die van de Verenigde Staten en China, en die nieuwe regels stelt.

De Europese Commissie heeft onlangs een pakket voor technologische soevereiniteit aangenomen, als onderdeel van haar inspanningen om Europa haar eigen technologische pad te laten volgen. Hoe kunnen we deze toekomstvisie formuleren zodat we niet een soort surveillance-oligarchie krijgen die gebaseerd is op een Europese variant?

De leidende koers die Europa moet volgen, is niet soevereiniteit om de soevereiniteit, maar het bereiken ervan. Europa – of althans een groot deel ervan – is een van de laatste bastions van democratie in de wereld. Het ondersteunt mensenrechten en vrijheden, en heeft technologische soevereiniteit nodig om deze waarden te bevorderen. Zolang het nog sterk afhankelijk blijft van systemen die op zeer autoritaire wijze worden ontwikkeld en die erop gericht zijn de Europese samenlevingen te ondermijnen, kan het haar waarden niet behouden.

Het concept soevereiniteit kan vervagen als we het slechts als een doel op zich gaan zien. Het moet een middel zijn om een doel te bereiken.

Van welke coalities, belangengroepen of conflicten moeten we uitgaan om deze alternatieve toekomstvisie op te bouwen?

Allereerst moeten we AI-governance in een bredere context zien. Bijvoorbeeld door het versterken van arbeidsrechten en het beschermen van de civil society, maken we deel uit van AI-beheer. Studenten, leraren en zorgverleners moeten aan tafel zitten om te helpen vormgeven en te bevragen hoe AI wordt ontwikkeld en toegepast in de samenleving. Onderwijs is cruciaal, zowel als sector en als coalitie die we erbij moeten betrekken, als voor maatschappelijke bewustwording over AI.

Een andere belangrijke factor is het financieren van AI-onderzoekers en ondernemers, zodat ze de technische details van hun ontwikkeling en de toepassing ervan kunnen onderzoeken. Maar we kunnen hen niet zomaar geld geven zonder de rest van de samenleving een stem te geven; anders herhalen we de problemen die we in de Verenigde Staten zien, waar technocraten of technoconservatieven de beslissingen nemen.

We beginnen niet vanaf nul. Er is al veel werk gedaan om de gemeenschappelijke doelen te bepalen waar de samenleving naartoe moet streven. Bijvoorbeeld de duurzame ontwikkelingsdoelen. Dit kan een uitgangspunt zijn om te bepalen hoe we innovatie in AI financieren.

De narratieven over AI-technologieën zijn momenteel uiterst polariserend. Aan de ene kant staan degenen die zeggen dat deze technologieën niets bijzonders nieuws brengen en dat de bubbel binnenkort zal barsten. Aan de andere kant staan degenen die geloven dat AI ons leven zal transformeren, de toeleveringsketens zal revolutioneren en ons allemaal overbodig zal maken. Wat denkt u over deze verschillende standpunten?

Het is waar dat velen de voordelen van AI overdreven, zonder rekening te houden met de kosten van de technologieën, of juist de kosten te benadrukken zonder de voordelen te zien. Maar ik denk dat er een grote groep is die het ermee eens is dat we willen profiteren van AI, maar niet ten koste van onze waardigheid en levensstijl – inclusief goede gezondheidszorg, economische kansen, een gezond milieu en een bloeiende planeet. Dit is de meest gebalanceerde aanpak.

AI (kunstmatige intelligentie) is een verzamelnaam voor verschillende technologieën, dus we moeten goed nadenken waarin we investeren en welke nieuwe technologieën we willen ontwikkelen, omdat elk met zijn eigen compromissen gepaard gaat; sommigen passen bij de toekomst die we willen bouwen, anderen niet. We moeten verstandig kiezen.

AI (kunstmatige intelligentie) verwijst naar verschillende technologieën, dus we moeten zorgvuldig overwegen waarin we investeren en welke nieuwe technologieën we willen ontwikkelen.

Hoe staat u tegenover bestaande AI-tools?

Ik gebruik ze om drie hoofdredenen niet. Ten eerste vanwege mijn ethische standpunt. Ten tweede vanwege mijn standpunt over privacy: ik onderzoek deze bedrijven, en het zijn uiteindelijk de meest efficiënte surveillance-technologieën die ooit zijn uitgevonden. Ten derde, deze tools zijn niet echt nuttig voor de specifieke vaardigheden die ik nodig heb voor mijn werk.

Ik zeg niet dat iedereen dat moet doen. Ik heb met veel mensen gesproken die duidelijk profiteren van deze tools, of die het gebruik ervan verplicht vinden in hun professionele rol. Maar de oplossing voor het huidige probleem is vooral dat we hetzelfde doen als in andere industrieën, zoals de mode, toen we ontdekten dat veel kleding onder verschrikkelijke omstandigheden werd gemaakt. Toen hebben we niet alleen de kleding weggeworpen, maar ook via consumenten- en werknemersorganisaties, overheidsregels en publieke opinie geprobeerd de industrie te beteugelen. De mode-industrie is nog niet perfect, maar er zijn alternatieven en consumenten kunnen met hun geld stemmen over welke toeleveringsketens en bedrijfspraktijken ze ondersteunen.

Hetzelfde moeten we met AI doen. Momenteel zijn er niet genoeg alternatieven voor gebruikers, en om dat te veranderen, is meer werknemersorganisatie en publieke weerstand nodig. Mensen die het gebruik van deze technologieën kunnen vermijden, moeten dat zeker doen, en overheden moeten ingrijpen om nieuwe markten voor alternatieven te creëren.

Consumenten hebben invloed, maar dat is niet alles. Als individuen, werknemers, docenten en burgers moeten we nadenken over hoe we deze rollen kunnen inzetten om de ontwikkeling van AI te verbeteren.