Daniel Innerarity: "Het is cruciaal om AI te voeden met meer diversiteit"

Daniel Innerarity, een van de meest vooraanstaande Spaanse denkers van de hedendaagse wereld, stelt in zijn laatste boek de noodzaak van “de AI te voeden met meer diversiteit” zodat deze niet een instrument van uitsluiting wordt.

Innerarity (Bilbao, 1959), hoogleraar Politieke en Sociale Filosofie, onderzoeker bij Ikerbasque aan de Universiteit van het Baskenland, presenteert deze ideeën in Een kritische theorie van kunstmatige intelligentie (Galaxia Gutenberg, 2025).

En naast het vergroten van de diversiteit in de bronnen die deze nieuwe systemen voeden, voegt de professor nog een ander idee toe: de noodzaak om “de menselijke interactie te superviseren om de compatibiliteit met democratische waarden te waarborgen”.

In dit interview bespreekt hij dit nieuwe boek, dat bekroond werd met de III Prijs voor Essay Eugenio Trías. Op de omslag, een meeuw op een gebogen reling voor de zee, suggereert, tegen de verwachting in, een andere manier om naar de technologische revolutie te kijken.

Waarom deze omslag en dit boek?

Ik wilde niet de typische afbeelding in blauwe tinten, geassocieerd met het etherische en de cloud, omdat ik kunstmatige intelligentie meer materieel zie, in contrast met het menselijke lichaam. De foto, enigszins bewerkt met AI, speelt met dat idee: een machine zou interpreteren dat de stang door het gewicht van de meeuw is gebogen, terwijl wij mensen de grap meteen begrijpen. Het is een metafoor over de verschillen tussen onze intuïtie en de verwerking door AI.

Ik schreef dit boek zodat duidelijk wordt wat er op het spel staat. Er is veel hysterie over technologie, met overdreven verwachtingen van technologische oplossingen. Silicon Valley wil dat we geloven dat technologie, en niet democratische deliberatie, de grote problemen zal oplossen. Er is ook een overdreven paniek die niet in verhouding staat tot de werkelijke risico’s of onze mogelijkheden om ze aan te pakken. AI bepaalt geen pad, het opent verschillende mogelijkheden, zoals de huidige historische, politieke en geopolitieke context. Het is niet vastgelegd dat dit slecht afloopt of dat technologie onze vrijheid zal beperken; het kan een emancipatorisch potentieel hebben.

Is ‘technosolutionisme’ de ideologie van het digitale tijdperk?

Het is die van bepaalde grote ondernemers in de digitale wereld, versterkt door de spectaculaire technologische ontwikkeling. Elke dag verschijnen er veelbelovende of verontrustende berichten: gisteren herstelde een vrouw haar spraak dankzij AI; vandaag protesteren vertalers omdat ze niet willen dat hun werk deze systemen voedt. Deze carousel van vooruitgang en conflicten veroorzaakt verbazing.

Wat is de rol van politieke besluitvorming in een algoritmische democratie, gezien AI zowel het debat als de besluitvorming beïnvloedt?

Het besluitvormingsproces in AI omvat ontwerp, data en interactie met gebruikers, en de sleutel ligt in wanneer, hoe en waarom mensen moeten ingrijpen. Het gebrek aan diversiteit onder degenen die deze systemen ontwerpen, vooral de geringe vrouwelijke aanwezigheid, kan voor bias zorgen. Een voorbeeld is gezichtsherkenning die zwarte vrouwen verwart met orang-oetans door bevooroordeelde training met meer beelden van blanke mannen. Het is cruciaal om AI te voeden met meer diversiteit, zoals Spanje doet met AI in het Spaans en de officiële talen [ALIA], tegenover het huidige anglocentrisme, en de menselijke interactie te superviseren om de compatibiliteit met democratische waarden te garanderen, zoals Algorithm Watch en de AESIA (Spaanse Agentschap voor AI-toezicht).

Waarom is het niet wenselijk dat AI hetzelfde is als de mens? Kunnen we het controleren?

In de luchtvaart bewezen de gebroeders Wright dat, in plaats van vogels na te bootsen, men aerodynamica moest bestuderen. Zo werkt het ook met AI: in plaats van menselijke intelligentie te repliceren, moet men gebruik maken van de rekenkracht en het beheer van grote hoeveelheden data. Het werkt goed in contexten met duidelijke data en binaire oplossingen, maar bij complexe of ambiguë problemen blijven mensen onmisbaar.

We hebben nog geen passend controleconcept voor AI gevonden: ofwel laten we te veel ruimte, waardoor waarden in gevaar komen, ofwel passen we te strenge controle toe die het leren remt. De Europese AI-wetgeving beweegt in de juiste richting, maar blijft algemeen. Het is vergelijkbaar met 1868, toen in het Verenigd Koninkrijk werd geëist dat een persoon voor de auto liep met een rood vlaggetje om ongelukken te voorkomen. De sleutel ligt in het combineren van snelheid en veiligheid, zoals bij moderne auto’s of ABS, waar technologische verbeteringen de risico’s van plots remmen in panieksituaties voorkomen.

Welke legitimiteit hebben wij om een Europese reguleringsperspectief op te leggen?

Ideaal zou zijn om wereldwijd overeenstemming te bereiken over ethische, politieke en democratische normen, maar we hebben verschillende culturen. Zoals bij klimaatverandering weten we dat het urgent is, maar er wordt gewerkt met gedeeltelijke akkoorden. Desalniettemin beïnvloeden Europese normen andere actoren. Bovendien overlappen AI en ecologie omdat het energieverbruik van deze technologie enorm is en het al deel uitmaakt van de internationale klimaatagenda.

Wat betekent het dat niet-natieve digitale mensen de AI-regelgeving formuleren, met een andere perceptie van risico’s en voordelen dan de nieuwe generaties?

Digitale transformatie bestaat niet alleen uit het digitaliseren van overheden, maar uit het transformeren van de samenleving als geheel. En zo’n grote transformatie moet democratisch en inclusief zijn, debatten openen, kritiek toestaan en rekening houden met generatie-, economische, geografische en culturele verschillen. Het mag niet worden beheerd door de diversiteit te negeren: digitale natives, ouderen, migranten, plattelandsbewoners… Het is een proef van vuur: ontwikkelen we inclusieve technologie of laten we het verdelen en uitsluiten? We moeten voorkomen dat digitalisering een instrument van uitsluiting wordt, zoals zichtbaar was bij de ecologische transitie en de protesten van de gele hesjes in Frankrijk.

In La era de la revancha stelt Andrea Rizzi voor een wereldwijde instantie te creëren voor het besturen van AI, zoals de OIEA voor kernenergie. Hoe dat te doen in een context van wantrouwen?

We leven in dat tijdperk en internationale instellingen worden in twijfel getrokken om ideologische of geopolitieke redenen. De logica van “wie het eerst komt, wie het laatst” en zero-sum-spellen overheersen, wat solide internationale governance bemoeilijkt. Vandaag bestaat het win-win-model niet eens, en wordt het niet verwacht. In dit verband had de pandemie gemengde effecten. Positief was dat het een cooperatieve reactie in Europa stimuleerde, met solidariteitsmechanismen zoals de Next Generation-fondsen, ondenkbaar in 2008. Negatief was dat het ongelijkheden verdiepten, zoals online onderwijs dat leerlingen buiten de schoolomgeving uitsloot, en een gevoel van kwetsbaarheid en sociale irritatie veroorzaakte, wat het wantrouwen jegens autoriteiten, migranten en andere landen voedt, en dat bepaalde extremistische bewegingen vandaag de dag kenmerkt.

Wat zijn de gevolgen van dat wantrouwen?

Nu heeft de burger een groter kritisch bewustzijn, wat als een democratische vooruitgang kan worden gezien. Toch denk ik dat het idee van transparantie overschat wordt en dat onze visuele cultuur ten onrechte aanneemt dat zien gelijk staat aan begrijpen. In plaats van transparantie – simpelweg “in de zwarte doos kijken” – stel ik voor te focussen op uitlegbaarheid: het is niet genoeg om te tonen, men moet het begrijpelijk maken, omdat de huidige technologische systemen zo complex zijn dat ze alleen adequaat kunnen worden geëvalueerd door betrouwbare publieke mediërende instellingen.

Hoe pakken we algoritmen aan die polarisatie en desinformatie bevorderen?

We bewegen van een ecosysteem met weinig informatiebronnen naar een met veel, waar de uitdaging ligt in het onderscheiden van betrouwbare bronnen. Deze overvloed, gunstig en democratisch, wordt verstoord door sociale netwerken met algoritmen die extremisme, polarisatie, schandalen en moderatie bestraffen. Maar algoritmen kunnen worden gereguleerd om dynamieken te bevorderen die compatibel zijn met een democratische cultuur, zoals de EU doet.

Hoe gaan we om met het conflict tussen AI en auteursrechten?

Europa leidt op het gebied van auteursrecht en privacy, maar de balans is complex. Een groot deel van menselijke creativiteit bestaat uit het hercomponeren van de creativiteit van anderen; we zijn niet zo creatief als we denken. Het gaat niet om het rechtvaardigen van plagiaat, er zijn duidelijke grenzen, maar in andere gevallen is het moeilijk te bepalen wat origineel is en wat herhaling, mede omdat we in een cultuur leven met veel banale of op weinig originele formules gebaseerde producten – zoals seriescripts of bestsellers.

AI revolutioneert velden zoals geneeskunde, maar de opleiding loopt achter. Wat zou u, in het algemeen, tegen leraren en professoren zeggen, zoals u?

In domeinen als geneeskunde (of recht) is de kloof tussen wat de samenleving verwacht en een memoristische, repetitieve en weinig creatieve opleiding zeer duidelijk. Hoewel we in gezondheid en recht meestal geen experimenten doen, zou een meer holistische opleiding nodig zijn.

In het algemeen zou ik leraren zeggen dat we niet meer alleen informatieoverdragers zijn. Sinds Google bestaat, is die functie triviaal geworden, studenten hebben ons niet meer nodig om gegevens te vinden. Wat kunnen wij hen bieden dat ze niet zelf kunnen vinden?: we kunnen hen helpen de juiste vragen te formuleren – want zoeken is niet gemakkelijk of spontaan – en hen leren echt te vinden wat ze zoeken. Google concurreert met ons alleen in het verzamelen van informatie, niet in het meest creatieve deel van lesgeven.

Bron: Aser G. Rada / Agencia SINC / CC By

Fotografie: Juantxo Egaña / CC By-sa