Daniel Innerarity: „Este crucial să alimentăm IA cu mai multă diversitate”

Daniel Innerarity, unul dintre cei mai remarcabili gânditori spanioli din lumea contemporană, propune în ultimul său volum necesitatea de a „hrăni IA cu mai multă diversitate” pentru ca aceasta să nu devină un instrument de excludere.

Innerarity (Bilbao, 1959), profesor universitar de Filosofie Politică și Socială, cercetător Ikerbasque la Universitatea din Țara Bascilor, își expune aceste idei în O teorie critică a inteligenței artificiale (Galaxia Gutenberg, 2025).

Și, împreună cu extinderea diversității în sursele care hrănesc aceste sisteme noi, profesorul adaugă o altă idee: necesitatea de a „superviziona interacțiunea umană pentru a asigura compatibilitatea acesteia cu valorile democratice”.

În acest interviu, vorbește despre această nouă carte, premiată cu Premiul III pentru Eseu Eugenio Trías. Pe copertă, o pescăruș peste o balustradă îndoită în fața mării sugerează, contrar așteptărilor, o altă modalitate de a privi revoluția tehnologică.

De ce această copertă și această carte?

Nu am vrut imaginea tipică în tonuri albastre, asociată cu eteric și nor, pentru că percep inteligența artificială într-un mod mai material, în contrast cu corpul uman. Fotografia, ușor retușată cu IA, joacă cu această idee: o mașină ar interpreta că bara s-a îndoit din cauza greutății pescărușului, în timp ce oamenii înțeleg gluma imediat. Este o metaforă despre diferențele dintre intuiția noastră și procesarea IA.

Am scris această carte pentru ca să se înțeleagă ce este în joc. Există multă isterie legată de tehnologie, cu așteptări exagerate de tehnosoluții. Silicon Valley vrea să credem că tehnologia, și nu deliberarea democratică, va rezolva marile probleme. De asemenea, există o panică exagerată, neadaptată la riscurile reale sau la posibilitățile noastre de a le face față. IA nu impune un drum, deschide mai multe posibilități, ca și contextul istoric, politic și geostrategic actual. Nu este scris că totul va merge rău sau că tehnologia ne va reduce libertatea, poate avea un potențial emancipator.

Este ‘tehnosoluționismul’ ideologia epocii digitale?

Este cea a anumitor mari antreprenori din lumea digitală, întărită de dezvoltarea spectaculoasă a tehnologiei. În fiecare zi apar știri promițătoare sau îngrijorătoare: ieri, o femeie și-a recăpătat vorbirea datorită IA; astăzi, traducătorii protestează pentru ca munca lor să nu hrănească aceste sisteme. Acest carusel de avansuri și conflicte generează perplexitate.

Care este rolul deciziei politice într-o democrație algoritmică, având în vedere că IA condiționează atât dezbaterea, cât și luarea deciziilor?

Procesul decizional în IA implică proiectare, date și interacțiune cu utilizatorii, iar cheia stă în momentul, modul și scopul în care trebuie să intervină oamenii. Lipsa diversității în cei care proiectează aceste sisteme, în special prezența redusă a femeilor, poate genera părtiniri. Un exemplu este recunoașterea facială care confunda femei negre cu orangutani din cauza antrenamentelor părtinitoare, bazate pe mai multe imagini cu bărbați albi. Este crucial să hrănim IA cu mai multă diversitate, așa cum face Spania cu IA în limba spaniolă și limbile cooficiale [ALIA], în fața actualului anglocentrism, și să supervizăm interacțiunea umană pentru a asigura compatibilitatea acesteia cu valorile democratice, precum fac Algorithm Watch și AESIA (Agenția Spaniolă de Supraveghere a IA).

De ce nu este de dorit ca IA să fie egală cu cea umană? Putem controla acest lucru?

În aviație, frații Wright au demonstrat că, în loc să imite păsările, trebuie să studieze aerodinamica. La fel se întâmplă cu IA: în loc să reproducă inteligența umană, trebuie să valorifice capacitatea de calcul și gestionarea volumelor mari de date. Funcționează bine în contexte cu date clare și soluții binare, dar în probleme complexe sau ambigue, oamenii rămân indispensabili.

Nu am găsit un concept de control adecvat pentru IA: fie lăsăm prea mult spațiu, punând în pericol valori, fie aplicăm un control excesiv, care încetinește învățarea. Legea Europeană pentru IA merge în direcția corectă, dar rămâne prea generică. Este ca în 1868, când în Regatul Unit se cerea ca o persoană să meargă în fața mașinii cu o steag roșu pentru a evita accidentele. Cheia este să combinăm viteza și siguranța, ca și în cazul mașinilor moderne sau ABS, unde îmbunătățirea tehnologică previne riscurile de frânare bruscă în situații de panică.

Ce legitimitate avem pentru a impune o perspectivă de reglementare europeană?

Ideal ar fi să se ajungă la un acord global privind standardele etice, politice și democratice, dar avem culturi diferite. Ca și în cazul schimbărilor climatice, știm că este urgent, dar progresăm prin pacte parțiale. Totuși, standardele europene influențează și alți actori. În plus, IA și ecologia se suprapun, deoarece consumul energetic al acestei tehnologii este enorm și face deja parte din agenda climatică internațională.

Ce implică faptul că reglementările IA sunt formulate de persoane non-nativi digitali, cu percepții diferite despre riscurile și beneficiile acesteia față de noile generații?

Transformarea digitală nu constă doar în digitalizarea administrațiilor, ci în transformarea societății în ansamblu. Și o transformare de această amploare trebuie să fie democratică și incluzivă, să deschidă dezbateri, să permită critica și să țină cont de diferențele generazionale, economice, geografice și culturale. Nu poate fi gestionată ignorând diversitatea: nativi digitali, vârstnici, migranți, locuitori ai mediului rural… Este o probă de foc, vom dezvolta o tehnologie incluzivă sau vom permite să divizeze și să excludă? Trebuie să evităm ca digitalizarea să devină o unealtă de excludere, așa cum s-a perceput în protestele vestelor galbene din Franța.

În „Epoca revanșei”, Andrea Rizzi propune un organism global pentru guvernarea IA, similar OIEA în domeniul energiei nucleare. Cum să facem acest lucru într-un context de neîncredere?

Trăim în acea epocă, iar instituțiile globale sunt contestate din motive ideologice sau geostrategice. Prevalează logica „să se salveze cine poate” și jocurile cu sumă zero, ceea ce complică o guvernare internațională solidă. Astăzi, modelul win-win nu există și nici nu se preconizează. În acest sens, pandemia a avut efecte ambivalente. În aspect pozitiv, a promovat o reacție cooperantă în Europa, impulsionând mecanisme de solidaritate precum fondurile Next Generation, inimaginabile în 2008. În aspect negativ, a aprofundat inegalitățile, precum educația online, care a exclus elevii din mediul școlar, și a generat sentiment de vulnerabilitate și iritare socială, alimentând neîncrederea față de autorități, migranți și alte țări, ceea ce explică unele extremisme de astăzi.

Ce repercusiuni are această neîncredere?

Acum, cetățenia are un sens critic mai mare, ceea ce poate fi văzut ca un progres democratic. Cu toate acestea, cred că ideea de transparență este supraevaluată și că cultura noastră vizuală asumă în mod eronat că a vedea înseamnă a înțelege. În fața transparenței – înțeleasă ca simplu „a vedea în interiorul cutiei negre” – propun să ne concentrăm pe explicabilitate: nu este suficient să arătăm, trebuie să facem înțeles, pentru că sistemele tehnologice actuale sunt atât de complexe încât pot fi evaluate corespunzător doar prin instituții publice de mediere fiabile.

Cum abordăm algoritmii care favorizează polarizarea și dezinformarea?

Trecem de la un ecosistem cu puține surse de informație la unul cu multe, unde provocarea este să discernem cele fiabile. Această abundență, benefică și democratică, este distorsionată de rețele sociale cu algoritmi care favorizează extremismul, polarizarea, scandalul și penalizează moderarea. Dar algoritmii pot fi reglementați pentru a promova dinamici compatibile cu o cultură democratică, așa cum face UE.

Cum abordăm conflictul dintre IA și drepturile de autor?

Europa conduce în reglementarea drepturilor de autor și a vieții private, dar echilibrul este complex. O mare parte din creativitatea umană constă în recompunerea creativității altora, nu suntem atât de creativi pe cât credem. Nu este vorba de a justifica plagiatul, există limite evidente, dar în alte cazuri nu e ușor să delimitezi ce este original și ce repetitiv, în mare parte pentru că trăim într-o cultură cu multe produse – precum scenarii de seriale sau bestseller-uri – banale sau bazate pe formule puțin originale.

IA revoluționează domenii precum medicina, dar formarea merge cu întârziere. Ce i-ați spune, în general, dascălilor și profesorilor, ca dumneavoastră?

În domenii precum medicina (sau dreptul), se vede foarte clar decalajul între ceea ce așteaptă societatea și o formare memoristică, repetitivă și puțin creativă. Deși în sănătate și justiție nu facem de obicei experimente, ar fi nevoie de o formare mai holistică.

În general, aș spune dascălilor că nu mai suntem doar transmițători de informație. De când există Google, această funcție a devenit banală, elevii nu mai au nevoie de noi pentru a găsi date. Ce le putem oferi noi ce nu pot găsi pe cont propriu?: îi putem ajuta să formuleze întrebările potrivite – pentru că a căuta nu e ceva ușor sau spontan – și să îi învățăm să găsească cu adevărat ceea ce caută. Google concurează cu noi doar în colectarea informației, nu în partea cea mai creativă a predării.

Sursa: Aser G. Rada / Agenția SINC / CC By

Fotografie: Juantxo Egaña / CC By-sa