Daniel Innerarity: "Det är avgörande att mata AI med mer mångfald"

Daniel Innerarity, en av de mest framstående spanska tänkarna i den samtida världen, föreslår i sin senaste bok behovet av att “mata in AI med mer mångfald” för att inte bli ett verktyg för utestängning.

Innerarity (Bilbao, 1959), professor i politisk och social filosofi, forskare vid Ikerbasque vid Baskien universitet, presenterar dessa idéer i En kritisk teori om artificiell intelligens (Galaxia Gutenberg, 2025).

Och tillsammans med utökningen av mångfalden i de källor som matar dessa nya system, tillägger professorn en annan idé: behovet av “övervaka den mänskliga interaktionen för att säkerställa dess förenlighet med demokratiska värderingar”.

I denna intervju samtalar han om denna nya bok, som tilldelades III Eugenio Trías-essaypriset. På omslaget, en mås på en böjd räcke framför havet antyder, mot det oväntade, ett annat sätt att se på den teknologiska revolutionen.

Varför denna omslagsbild och denna bok?

Jag ville inte ha den typiska bilden i blå nyanser, associerad med det eteriska och molnet, eftersom jag ser artificiell intelligens mer materiellt, i kontrast till den mänskliga kroppen. Fotot, något retuscherat med AI, leker med den idén: en maskin skulle tolka att stången har böjts av vikten av måsen, medan vi människor förstår skämtet direkt. Det är en metafor om skillnaderna mellan vår intuition och AI:s bearbetning.

Jag skrev denna bok för att förklara vad som står på spel. Det finns mycket hysteri kring teknologin, med överdrivna förväntningar på teknologiska lösningar. Silicon Valley vill att vi ska tro att teknologin, och inte demokratisk överläggning, kommer att lösa de stora problemen. Det finns också en överdriven panik som inte är anpassad till de verkliga riskerna eller våra möjligheter att hantera dem. AI tvingar inte fram en väg, den öppnar flera möjligheter, som den nuvarande historiska, politiska och geostrategiska kontexten. Det är inte skrivet i sten att detta slutar illa eller att teknologin minskar vår frihet, den kan ha en befriande potential.

Är ‘teknosolutionism’ ideologin för den digitala eran?

Det är den för vissa stora företagare inom den digitala världen, förstärkt av den spektakulära teknologiska utvecklingen. Varje dag dyker det upp lovande eller oroande nyheter: igår, återhämtade en kvinna talet tack vare AI; idag protesterar översättare för att deras arbete inte ska mata dessa system. Denna karusell av framsteg och konflikter skapar förundran.

Vad är den politiska beslutsprocessens roll i en algoritmisk demokrati, med tanke på att AI påverkar både debatten och beslutsfattandet?

Beslutsprocessen i AI involverar design, data och interaktion med användare, och nyckeln är när, hur och varför människor ska ingripa. Bristen på mångfald bland de som designar dessa system, särskilt den låga kvinnliga närvaron, kan skapa bias. Ett exempel är ansiktsigenkänning som förväxlade svarta kvinnor med orangutanger på grund av snedvridna träningar med fler bilder av vita män. Det är avgörande att mata AI med mer mångfald, som Spanien gör med AI på spanska och andra officiella språk [ALIA], mot den nuvarande anglocentriska tendensen, och att övervaka den mänskliga interaktionen för att garantera dess förenlighet med demokratiska värderingar, som görs av Algorithm Watch och AESIA (Spanska AI-övervakningsbyrån).

Varför är det inte önskvärt att AI är lik den mänskliga? Kan vi kontrollera den?

Inom flygindustrin visade bröderna Wright att istället för att imitera fåglar, måste man studera aerodynamik. Det gäller även AI: istället för att replikera den mänskliga intelligensen, bör man utnyttja dess beräkningskapacitet och hantering av stora datamängder. Det fungerar bra i sammanhang med tydliga data och binära lösningar, men i komplexa eller tvetydiga problem är människor fortfarande oersättliga.

Vi har inte hittat ett lämpligt kontrollkoncept för AI: antingen ger vi för mycket utrymme, vilket riskerar värden, eller så tillämpar vi en överdriven kontroll som hämmar dess lärande. Det Europeiska AI-fördraget går i rätt riktning, men är fortfarande generellt. Det är som 1868, när Storbritannien krävde att en person skulle gå framför bilen med en röd flagga för att undvika olyckor. Nyckeln är att kombinera hastighet och säkerhet, som med moderna bilar eller ABS, där teknologiska förbättringar minskar risken för plötsliga inbromsningar i paniksituationer.

Vilken legitimitet har vi att införa en europeisk regleringssyn?

Idealet vore att nå en global överenskommelse om etiska, politiska och demokratiska standarder, men vi har olika kulturer. Som vid klimatförändringarna vet vi att det är brådskande, men framstegen sker via delvisa avtal. Dock påverkar europeiska standarder andra aktörer. Dessutom överlappar AI och ekologi eftersom den energiförbrukning denna teknologi kräver är enorm och redan en del av den internationella klimatagendan.

Vad innebär det att regleringarna för AI formuleras av personer som inte är digitala infödingar, med annan uppfattning om risker och fördelar än de nya generationerna?

Den digitala omvandlingen handlar inte bara om att digitalisera förvaltningar, utan om att omvandla samhället som helhet. Och en sådan stor omvandling måste vara demokratisk och inkluderande, öppna för debatt, tillåta kritik och ta hänsyn till generations-, ekonomiska, geografiska och kulturella skillnader. Det kan inte hanteras utan att beakta mångfalden: digitala infödingar, äldre, migranter, landsbygdsbor… Det är ett prov på om vi kan utveckla en inkluderande teknologi eller låta den splittra och utestänga. Vi måste förhindra att digitaliseringen blir ett verktyg för utestängning, som man såg med den ekologiska omställningen i gula västar-protesterna i Frankrike.

I *Revanche-epoken* föreslår Andrea Rizzi en global organisation för att styra AI, likt IAEA för kärnenergi. Hur gör man det i en misstroendevärld?

Vi lever i den tiden, och de globala institutionerna ifrågasätts av ideologiska eller geostrategiska skäl. Det råder en “spara sig själv”-mentalitet och nollsummespel, vilket försvårar en stark internationell styrning. Idag finns varken en win-win-modell eller någon som väntar sig den. Pandemin hade ambivalenta effekter. Positivt främjade den ett samarbetsvilligt svar i Europa, med solidaritetsmekanismer som Next Generation-fonderna, vilket var otänkbart 2008. Negativt fördjupade den ojämlikheter, som onlineutbildning som utestängde elever från skolmiljön, och skapade känslor av sårbarhet och social irritation, vilket bidrar till misstro mot myndigheter, migranter och andra länder, och som idag driver vissa extremistiska rörelser.

Vilka konsekvenser får denna misstro?

Nu har medborgarna ett större kritiskt tänkande, vilket kan ses som ett demokratiskt framsteg. Men jag anser att transparensbegreppet är övervärderat och att vår visuella kultur felaktigt antar att att se är att förstå. Istället för transparens – som bara innebär att “titta in i svarta lådan” – föreslår jag att vi fokuserar på förklarbarhet: det räcker inte att visa, man måste göra det förståeligt, eftersom dagens teknologiska system är så komplexa att de bara kan utvärderas på ett korrekt sätt genom pålitliga offentliga medlarinstitutioner.

Hur hanterar vi algoritmer som gynnar polarisering och desinformation?

Vi går från ett ekosystem med få informationskällor till ett med många, där utmaningen är att urskilja de pålitliga. Denna överflöd, som är demokratisk och fördelaktig, förvrängs av sociala nätverk med algoritmer som gynnar extremism, polarisering, skandaler och straffar måttfullhet. Men algoritmer kan regleras för att främja dynamiker som är förenliga med en demokratisk kultur, som EU gör.

Hur hanterar vi konflikten mellan AI och upphovsrätten?

Europa leder inom reglering av upphovsrätt och integritet, men balansen är komplex. En stor del av den mänskliga kreativiteten består i att rekonstruera andras kreativitet, vi är inte så kreativa som vi tror. Det handlar inte om att rättfärdiga plagiat, det finns tydliga gränser, men i andra fall är det svårt att avgöra vad som är original och vad som är repetitivt, mycket på grund av att vi lever i en kultur fylld av många banala eller formelbaserade produkter – som manus till serier eller bästsäljare – som är triviala eller baserade på okreativa mallar.

AI revolutionerar områden som medicin, men utbildningen hänger efter. Vad skulle du säga, generellt, till lärare och professorer, som du?

Inom områden som medicin (eller juridik) är det mycket tydligt att det finns en klyfta mellan vad samhället förväntar sig och en memorering, repetitiv och lite kreativ utbildning. Även om vi inte brukar experimentera inom hälsa och rättvisa, skulle en mer holistisk utbildning vara nödvändig.

Generellt skulle jag säga till lärare att vi inte längre bara är informationsbärare. Sedan Google finns har den funktionen blivit banal, eleverna behöver inte oss för att hitta data. Vad kan vi bidra med som de inte kan hitta själva?: vi kan hjälpa dem att formulera rätt frågor – för att söka är inte lätt eller spontant – och lära dem att verkligen hitta det de söker.

källa: Aser G. Rada / Agencia SINC / CC By

Fotografi: Juantxo Egaña / CC By-sa