Il rovesciamento dell'impero dell'IA

Mentre la corsa technocratica-autoritario allo sviluppo delle tecnologie di intelligenza artificiale avanzate prosegue a pieno ritmo, l'influenza del Silicon Valley sulle agende regolamentari è ormai pari – e talvolta addirittura superiore – a quella di molti Stati. Tuttavia, tra le ambizioni delle superpotenze globali e dei giganti dell'IA, l'Europa ha l'opportunità di cercare qualcosa di migliore. Intervista alla giornalista e scrittrice premiata, Karen Hao.

Alessio Giussani: Sono state usate molte metafore per descrivere l'attuale modello di sviluppo dell'intelligenza artificiale – ad esempio un pappagallo o uno specchio. Perché ha scelto proprio la metafora dell'impero?

Karen Hao: Penso che queste metafore siano tutte estremamente utili. Mi concentro sull’"impero" perché non analizzo solo lo strumento tecnico in sé e cosa succede quando viene applicato nella società, ma anche la produzione della tecnologia stessa, e i soggetti che accumulano un potere economico e politico straordinario per la sua creazione.

Ci sono quattro motivi principali per cui definisco questo sistema un impero. Primo, queste aziende richiedono risorse che non possiedono: i dati degli individui, così come il lavoro di scrittori e creatori. In secondo luogo, sfruttano in modo estremo la forza lavoro, sia i dipendenti coinvolti nei processi produttivi e nelle catene di approvvigionamento tecnologico, sia coloro i cui diritti sul lavoro vengono compromessi durante l’introduzione delle tecnologie.

Il terzo aspetto riguarda il controllo delle informazioni. Una delle caratteristiche principali dell'espansione degli imperi è la capacità di filtrare ogni produzione di conoscenza e informazione attraverso i propri obiettivi imperiali, e le aziende di intelligenza artificiale fanno esattamente questo. Controllano e censurano la scienza finanziando la maggior parte della ricerca sull’IA e costruendo tecnologie dell’informazione che vogliono trasformare in portali centrali, attraverso i quali tutti si connettono al mondo, compresa l’educazione.

Infine, tutto questo viene mascherato da una missione civica. Dicono di occuparsi di questo lavoro perché, in ultima analisi, vogliono mettere a disposizione dell’umanità tecnologie che ci elevino a uno stato utopico, e se vengono sviluppate prima da “cattivi” – di solito si riferiscono alla Cina – rischiamo di cadere in uno stato distopico. È una sorta di narrazione religiosa, che era comune anche tra i vecchi imperi.

Come descrive, l’Impero dell’IA non si limita a un’azienda; è un sistema, una logica. Cosa c’è dietro l’attenzione rivolta a OpenAI e al suo CEO, Sam Altman?

Una risposta è che le persone hanno bisogno di storie che aiutino a dare forma concreta a ciò che altrimenti rimarrebbe un’idea astratta. Ma OpenAI è particolarmente interessante anche perché ha preso tutte le decisioni più importanti, che hanno cambiato le norme del settore e l’hanno indirizzata verso la costruzione di un impero. È stata OpenAI a decidere di espandersi a ogni costo, lavorando con grandi modelli linguistici e creando interfacce simili a chatbot. Quasi tutto ciò che il pubblico associa oggi all’intelligenza artificiale è stato deciso prima tra le mura di OpenAI.

Se raccontiamo questa storia, diventa molto più evidente che l’intelligenza artificiale non è inevitabile, perché ci rendiamo conto che sono state decisioni di persone reali, basate sui loro valori, visioni del mondo, desideri di vendetta personale – qualunque cosa abbia effettivamente determinato il percorso di sviluppo dell’IA. Le ideologie di Sam Altman non permeano solo il modello in modo astratto. Si sente spesso il luogo comune che i modelli riflettano i loro creatori, ma io volevo mostrare come ciò avvenga realmente. Si tratta di aziende, persone e ambienti economici e ideologici di cui fanno parte.

Man mano che queste tecnologie diventano più efficaci, il controllo sul loro utilizzo diventa una questione esistenziale. Abbiamo visto che Big Tech si è piegata davanti a Trump durante la sua seconda inaugurazione, ma vediamo anche che i CEO delle aziende di intelligenza artificiale si stanno sempre più scontrando con il governo. Alla fine, di chi sarà la parola definitiva – dello Stato o delle aziende private?

È in corso una lotta su chi prenderà le decisioni. Considero il rapporto tra Washington e la Silicon Valley come un’alleanza di convenienza, ma molto tesa. Rappresentano due modelli imperiali diversi, entrambi con i propri piani di espansione. Entrambi cercano di conquistare più territori da altri paesi, ma il governo Trump vede le aziende di IA come strumenti delle ambizioni imperiali dello Stato. Nel frattempo, la Silicon Valley considera il governo Trump come uno strumento delle proprie ambizioni imperiali, ma in realtà non sono sulla stessa lunghezza d’onda, perché entrambi vogliono essere l’autorità suprema al vertice.

Ci sono stati momenti in cui il governo americano ha dimostrato di essere ancora il padrone – come quando Trump e Musk si sono scontrati, e Musk è stato licenziato. Ma quando il Dipartimento della Difesa ha avuto un conflitto con Anthropic, questa ha dimostrato di essere la parte più forte: il ministro della Difesa Pete Hegseth ha proposto l’“opzione nucleare”, minacciando di dichiarare l’azienda un rischio di catena di approvvigionamento – come ultima risorsa per costringere Anthropic alla obbedienza – ma anche così l’azienda non si è piegata. È piuttosto imbarazzante che il Dipartimento della Difesa sia profondamente dipendente da un attore privato che non vuole collaborare secondo le condizioni del governo, che non può fare nulla contro di lui.

Entrambi i soggetti imperiali devono essere resi responsabili, e questa responsabilità non può derivare da loro; deve provenire dal popolo. Da un’organizzazione bottom-up, che sta iniziando a fiorire in tutto il mondo, compresi gli Stati Uniti. Per quanto questa alleanza di convenienza possa sembrare impenetrabile, in realtà è estremamente fragile, e ci sono possibilità di accelerarne il crollo esercitando maggiore pressione sui suoi punti deboli.

Invece di considerare l’intelligenza artificiale come una competizione globale tra il bene e il male, dovremmo piuttosto riflettere su quale futuro vogliamo per la società.

Lo stato attuale dello sviluppo dell’intelligenza artificiale sembra una corsa verso il punto più basso tra le aziende rivali e le superpotenze globali. Quale ruolo ha avuto la competizione geopolitica con la Cina nel portare l’IA in questa difficile situazione?

La Cina è una carta che il Silicon Valley gioca da oltre un decennio, praticamente da quando è stato espulso dalla Cina. Tuttavia, analizzando i risultati di questa strategia, si vede che in realtà è sempre successo il contrario di quanto previsto dal Silicon Valley.

Si sosteneva che la mancanza di regolamentazione delle aziende di Silicon Valley – e la regolamentazione attraverso le restrizioni all’export in Cina – avrebbe portato la tecnologia americana a dominare il mondo. Eppure TikTok è la piattaforma di social media più popolare, e i modelli di intelligenza artificiale open source cinesi stanno diventando sempre più diffusi anche negli Stati Uniti. Promettevano che la supremazia della Silicon Valley avrebbe avuto un effetto liberatorio sul mondo, ma non è successo; anzi, il loro impatto è stato profondamente illiberale. Si è assistito a un’erosione straordinaria delle istituzioni democratiche e a un rapido declino della democrazia, favorito anche dalle piattaforme della Silicon Valley e dalle tecnologie di intelligenza artificiale.

Invece di considerare l’intelligenza artificiale come una competizione globale tra il bene e il male, dovremmo piuttosto riflettere su quale futuro vogliamo per la società, quali tecnologie di IA sosterranno questa visione, e quali risorse sono necessarie per realizzarla. Non dovremmo competere nel modello imposto dalla Silicon Valley, ma negli ideali e nei valori che vogliamo mantenere. E credo che l’Europa abbia qui l’opportunità di mostrare al mondo una terza via, diversa da quella degli Stati Uniti e della Cina, e di stabilire nuove regole.

La Commissione Europea ha recentemente adottato un pacchetto di sovranità tecnologica, parte di uno sforzo per tracciare un percorso tecnologico europeo. Come possiamo definire questa visione futura, evitando di creare una versione europea di un modello oligarchico di sorveglianza?

La stella polare che l’Europa dovrebbe seguire non è la sovranità per il gusto di essa, ma l’obiettivo di raggiungerla. L’Europa – o almeno una grande parte di essa – è uno degli ultimi baluardi della democrazia nel mondo. Sostiene i diritti umani e le libertà, e ha bisogno di sovranità tecnologica per promuovere questi valori. Finché rimarrà fortemente dipendente da sistemi sviluppati in modo autoritario e che mirano a minare le società europee, non potrà mantenere i propri valori.

Il concetto di sovranità rischia di diventare sfocato se lo si interpreta come un fine in sé, invece che come uno strumento per raggiungere un obiettivo.

Da quali coalizioni, gruppi di interesse o conflitti dovremmo partire per costruire questa visione alternativa?

Innanzitutto, dobbiamo concepire la gestione dell’IA in senso più ampio. Per esempio, rafforzare i diritti dei lavoratori e proteggere la società civile sono parte integrante della gestione dell’IA. Studenti, insegnanti e operatori sanitari devono sedere allo stesso tavolo per contribuire a plasmare e mettere in discussione come si sviluppa e si applica l’intelligenza artificiale nella società. L’educazione è fondamentale, sia come settore che come coalizione da coinvolgere, e anche come strumento di sensibilizzazione sociale sull’IA.

Un altro aspetto importante è il finanziamento dei ricercatori e degli imprenditori dell’IA, per scoprire i dettagli tecnici dei loro sviluppi e le modalità di applicazione. Ma non possiamo semplicemente dare loro soldi senza ascoltare anche le altre parti della società; altrimenti rischiamo di ripetere i problemi che affrontiamo negli Stati Uniti, dove decisioni vengono prese principalmente da tecnocrati o tecnoconservatori.

Non partiamo da zero. Sono stati fatti molti passi per definire obiettivi comuni verso cui la società dovrebbe tendere. Per esempio, i obiettivi di sviluppo sostenibile. Questo può essere un punto di partenza per capire come finanziare l’innovazione nel campo dell’intelligenza artificiale.

Le narrazioni attuali sull’intelligenza artificiale sono estremamente polarizzate. Da un lato ci sono coloro che sostengono che queste tecnologie non sono nulla di nuovo e che la bolla scoppierà presto. Dall’altro, ci sono quelli che credono che l’IA trasformerà le nostre vite, rivoluzionerà le catene di approvvigionamento e ci renderà tutti superflui. Qual è la sua opinione su queste posizioni?

È vero, molti tendono a esagerare i benefici senza considerare i costi delle tecnologie, o a enfatizzarli troppo, senza vedere i vantaggi. Ma credo che ci siano abbastanza persone che concordano sul fatto che vogliamo beneficiare dell’IA, ma senza sacrificare la nostra vita dignitosa – che include buona assistenza sanitaria, opportunità economiche, un ambiente sano e un pianeta fiorente. Questa è l’approccio più equilibrato.

L’intelligenza artificiale (IA) è un termine ombrello che comprende molte tecnologie diverse, quindi dobbiamo riflettere attentamente su in quali investire e quali nuove tecnologie sviluppare, perché ognuna comporta compromessi diversi; alcuni sono in linea con il futuro che vogliamo costruire, altri no. Dobbiamo scegliere saggiamente.

L’intelligenza artificiale (IA) indica molte tecnologie diverse, quindi dobbiamo valutare attentamente in quali investire e quali nuove tecnologie sviluppare.

Qual è il suo rapporto con gli strumenti di IA esistenti?

Per tre motivi principali non li uso. Primo, per motivi etici. Secondo, per motivi di privacy: analizzo queste aziende, che sono in definitiva le tecnologie di sorveglianza più efficaci mai inventate. Terzo, perché questi strumenti non sono particolarmente utili per le competenze specifiche di cui ho bisogno per il mio lavoro.

Non dico che tutti dovrebbero fare lo stesso. Ho parlato con molte persone che traggono chiaramente profitto da questi strumenti, o per cui il loro ruolo professionale richiede di usarli. Ma la soluzione attuale al problema è fare come in altri settori, come la moda: quando abbiamo scoperto che la maggior parte dei vestiti viene prodotta in condizioni terribili, non ci siamo semplicemente liberati di quei vestiti. Sono state necessarie organizzazioni di consumatori e lavoratori, regolamentazioni governative e un’ampia opinione pubblica per mettere sotto controllo l’industria. Certo, il settore della moda non è ancora perfetto, ma oggi ci sono alternative, e i consumatori possono “votare con il portafoglio” sostenendo catene di approvvigionamento e pratiche aziendali più etiche.

Lo stesso dobbiamo fare con l’IA. Attualmente non ci sono abbastanza alternative per gli utenti, e per cambiare questa situazione servono più organizzazioni di lavoratori e una maggiore resistenza pubblica. Chi può evitare di usare queste tecnologie dovrebbe boicottarle, e i governi devono intervenire per aiutare a creare nuovi mercati per le alternative.

I consumatori hanno un ruolo importante, ma non sono gli unici. Come individui, come lavoratori, insegnanti e cittadini, dobbiamo riflettere su come usare questi ruoli per migliorare lo sviluppo dell’intelligenza artificiale.