Daniel Innerarity: “È fondamentale alimentare l'IA con più diversità”

Daniel Innerarity, uno dei più importanti pensatori spagnoli del mondo contemporaneo, propone nel suo ultimo libro la necessità di “alimentare l'IA con più diversità” affinché non diventi uno strumento di esclusione.

Innerarity (Bilbao, 1959), professore ordinario di Filosofia Politica e Sociale, ricercatore Ikerbasque all'Università del Paese Basco, espone queste idee in Una teoria critica dell'intelligenza artificiale (Galaxia Gutenberg, 2025).

E insieme all'ampliamento della diversità nelle fonti che alimentano questi nuovi sistemi, il professore aggiunge un'altra idea: la necessità di “supervisionare l'interazione umana per garantire la sua compatibilità con i valori democratici”.

In questa intervista parla di questo nuovo libro, premiato con il III Premio di Saggio Eugenio Trías. In copertina, una gabbiana su una ringhiera piegata di fronte al mare suggerisce, contro ogni previsione, un altro modo di guardare alla rivoluzione tecnologica.

Perché questa copertina e questo libro?

Non volevo l'immagine tipica in tonalità di blu, associata all'etereo e al cloud, perché concepisco l'intelligenza artificiale in modo più materiale, in contrasto con il corpo umano. La foto, leggermente ritoccata con l'IA, gioca con questa idea: una macchina interpreterebbe che la barra si sia piegata sotto il peso della gabbiana, mentre noi umani capiamo subito la battuta. È una metafora sulle differenze tra la nostra intuizione e l'elaborazione dell'IA.

Ho scritto questo libro per far capire cosa è in gioco. C'è molta isteria sulla tecnologia, con aspettative esagerate di tecnosoluzionismo. Silicon Valley vuole farci credere che la tecnologia, e non la deliberazione democratica, risolverà i grandi problemi. C'è anche un panico esagerato, non proporzionato ai rischi reali né alle nostre possibilità di affrontarli. L'IA non impone un percorso, apre diverse possibilità, come il contesto storico, politico e geostrategico attuale. Non è scritto che finisca male né che la tecnologia riduca la nostra libertà, può avere un potenziale emancipatore.

Il ‘tecnosoluzionismo’ è l’ideologia dell’era digitale?

È quella di alcuni grandi imprenditori del mondo digitale, rafforzata dallo sviluppo tecnologico spettacolare. Ogni giorno emergono notizie promettenti o inquietanti: ieri, una donna ha recuperato la parola grazie all'IA; oggi, i traduttori protestano affinché i loro lavori non alimentino questi sistemi. Questo carosello di progressi e conflitti genera smarrimento.

Qual è il ruolo della decisione politica in una democrazia algoritmica, considerando che l'IA condiziona tanto il dibattito quanto la presa di decisioni?

Il processo decisionale nell'IA coinvolge progettazione, dati e interazione con gli utenti, e la chiave sta nel quando, come e perché devono intervenire gli umani. La mancanza di diversità tra chi progetta questi sistemi, in particolare la scarsa presenza femminile, può generare bias. Un esempio è il riconoscimento facciale che confondeva donne nere con oranghi a causa di addestramenti sbilanciati con più immagini di uomini bianchi. È cruciale alimentare l'IA con più diversità, come fa la Spagna con l'IA in castigliano e lingue cooficiali [ALIA], rispetto all'attuale anglocentrismo, e supervisionare l'interazione umana per garantirne la compatibilità con i valori democratici, come fanno Algorithm Watch e l'AESIA (Agenzia Spagnola di Supervisione dell'IA).

Perché non è auspicabile che l'IA sia uguale a quella umana? La possiamo controllare?

Nel settore dell'aviazione, i fratelli Wright dimostrarono che, invece di imitare gli uccelli, si doveva studiare l'aerodinamica. Così avviene con l'IA: invece di replicare l'intelligenza umana, bisogna sfruttare la sua capacità di calcolo e gestione di grandi volumi di dati. Funziona bene in contesti con dati chiari e soluzioni binarie, ma in problemi complessi o ambigui, gli umani restano insostituibili.

Non abbiamo ancora trovato un concetto di controllo adeguato per l'IA: o lasciamo troppo margine, rischiando i valori, o applichiamo un controllo eccessivo che frena il suo apprendimento. L'Atto Europeo sull'IA avanza nella direzione giusta, ma rimane generico. È come nel 1868, quando nel Regno Unito si richiedeva che una persona camminasse davanti alla carrozza con una bandiera rossa per evitare incidenti. La chiave sta nel combinare velocità e sicurezza, come con le auto moderne o l'ABS, dove il miglioramento tecnologico evita rischi di frenate brusche in situazioni di panico.

Qual è la legittimità di imporre una prospettiva regolamentare europea?

L'ideale sarebbe raggiungere un accordo globale su standard etici, politici e democratici, ma abbiamo culture diverse. Come nel cambiamento climatico, sappiamo che è urgente, ma si procede con patti parziali. Tuttavia, gli standard europei influenzano altri attori. Inoltre, IA ed ecologia si sovrappongono perché il consumo energetico di questa tecnologia è enorme e fa già parte dell'agenda climatica internazionale.

Cosa comporta che le regolamentazioni sull'IA siano formulate da persone non native digitali, con percezioni diverse sui rischi e benefici rispetto alle nuove generazioni?

La trasformazione digitale non consiste solo nel digitalizzare le amministrazioni, ma nel trasformare la società nel suo complesso. E una trasformazione di questa portata deve essere democratica e inclusiva, aprire dibattiti, permettere la critica, e tenere conto delle differenze generazionali, economiche, geografiche e culturali. Non può essere gestita ignorando la diversità: nativi digitali, anziani, migranti, abitanti del mondo rurale… È una prova di fuoco, svilupperemo una tecnologia inclusiva o lasceremo che divida ed espella? Dobbiamo evitare che la digitalizzazione diventi uno strumento di esclusione, come si è visto con la transizione ecologica nelle proteste dei gilet gialli in Francia.

In La era della rivincita, Andrea Rizzi propone un organismo globale per governare l'IA, come l'AIEA nell'energia nucleare. Come farlo in un contesto di sfiducia?

Viviamo in quell'epoca e le istituzioni globali sono messe in discussione per motivi ideologici o geostrategici. Prevale la logica del “salva chi può” e dei giochi a somma zero, che rendono difficile una governance internazionale solida. Oggi, il modello win-win né esiste né si prevede. A questo proposito, la pandemia ha avuto effetti ambivalenti. In positivo, ha promosso una risposta cooperativa in Europa, stimolando meccanismi di solidarietà come i fondi Next Generation, impensabili nel 2008. In negativo, ha approfondito le disuguaglianze, come l'istruzione online, che ha escluso gli studenti dal contesto scolastico, e ha generato sensazioni di vulnerabilità e irritazione sociale, alimentando sfiducia verso autorità, migranti e altri paesi, da cui derivano alcuni estremismi odierni.

Quali ripercussioni ha questa sfiducia?

Ora la cittadinanza ha un senso critico maggiore, il che può essere visto come un progresso democratico. Tuttavia, credo che l'idea di trasparenza sia sopravvalutata e che la nostra cultura visiva assuma erroneamente che vedere equivalga a capire. Di fronte alla trasparenza – intesa come semplicemente “guardare dentro la scatola nera” – propongo di concentrarci sull'explicabilità: non basta mostrare, bisogna rendere comprensibile, perché i sistemi tecnologici attuali sono così complessi che possono essere valutati correttamente solo tramite istituzioni pubbliche di mediazione affidabili.

Come affrontiamo algoritmi che favoriscono la polarizzazione e la disinformazione?

Passiamo da un ecosistema con poche fonti di informazione a uno con molte, dove la sfida è discriminare quelle affidabili. Questa abbondanza, benefica e democratica, viene distorta da social network con algoritmi che favoriscono l'estremismo, la polarizzazione, lo scandalo e puniscono la moderazione. Tuttavia, è possibile regolare gli algoritmi per promuovere dinamiche compatibili con una cultura democratica, come fa l'UE.

Come affrontiamo il conflitto tra IA e diritti d'autore?

L'Europa è leader nella regolamentazione dei diritti d'autore e della privacy, ma l'equilibrio è complesso. Gran parte della creatività umana consiste nel ricostruire la creatività degli altri, non siamo così creativi come crediamo. Non si tratta di giustificare il plagio, ci sono limiti evidenti, ma in altri casi non è facile delimitare cosa sia originale e cosa ripetitivo, in buona parte perché viviamo in una cultura con molti prodotti – come sceneggiature di serie o bestseller – banali o basati su formule poco originali.

L'IA sta rivoluzionando campi come la medicina, ma la formazione è in ritardo. Cosa direbbe, in generale, a insegnanti e professori, come lei?

In ambiti come la medicina (o il diritto) si evidenzia molto il divario tra ciò che la società si aspetta e una formazione mnemonica, ripetitiva e poco creativa. Anche se in salute e giustizia non facciamo spesso esperimenti, sarebbe necessaria una formazione più olistica.

In generale, direi agli insegnanti che ormai non siamo più solo trasmettitori di informazioni. Da quando esiste Google, questa funzione è diventata banale, gli studenti non ci hanno più bisogno per trovare dati. Cosa possiamo offrire loro che non possano trovare con i loro mezzi?: possiamo aiutarli a formulare le domande giuste – perché cercare non è qualcosa di facile o spontaneo – e insegnare loro a trovare davvero ciò che cercano. Google compete con noi solo nel raccogliere informazioni, non nel modo più creativo di insegnare.

Fonte: Aser G. Rada / Agenzia SINC / CC By

Fotografia: Juantxo Egaña / CC By-sa