Intelligenza artificiale e paure dell'accademia

All'inizio di settembre, durante la presentazione del nuovo modello GPT-6 Astra, OpenAI ha annunciato la nascita di quella che chiamano intelligenza artificiale generale. Si tratta di un livello di sviluppo di questa tecnologia che avvicinerebbe i modelli linguistici alle capacità mentali dello stesso essere umano.

Anche se questa dichiarazione ha incontrato scetticismo da parte di esperti del settore AI, gli eventi successivi hanno alimentato l'emozione intorno alle potenzialità dell'intelligenza artificiale. Prima, OpenAI ha annunciato che il loro modello linguistico aveva risolto uno dei «problemi del millennio» (cioè questioni matematiche di fondamentale importanza per la scienza). Poi, sui social media, è arrivata una nuova notizia: matematici, che erano vicini alla soluzione dello stesso problema e che avevano usato anche loro modelli GPT, hanno espresso preoccupazione che il breakthrough annunciato da OpenAI fosse stato possibile grazie al loro lavoro.

Aggiungiamo anche che da un po' di tempo si sentono sempre più spesso dichiarazioni di ex dipendenti dell'azienda secondo cui i modelli creati da OpenAI sono pericolosi e che, in futuro, come sistemi completamente autonomi e privi di controllo umano, potrebbero minacciare l'umanità.

Sulla questione dei rischi legati allo sviluppo dell'intelligenza artificiale si è scritto già molto. Il progresso in questo campo comporta un'impronta ambientale significativa, poiché i centri dati, necessari per addestrare i modelli linguistici, richiedono enormi quantità di energia e acqua. Restano senza risposta le domande sulla privacy, dato che gli utenti inseriscono nei modelli linguistici qualsiasi cosa desiderino – da foto di famiglia a risultati di analisi mediche – e tutto ciò diventa parte di una potente massa di dati, utilizzata dalle grandi aziende tecnologiche.

Vengono infine poste domande più o meno serie sulla sicurezza e sul futuro – come implementare sistemi di controllo, se una tecnologia così potente viene sviluppata da aziende private che non sono soggette a nessun controllo?

Come sociologo, non sono in grado di valutare questi rischi. Non ho idea se tra 10 anni ci sveglieremo in un mondo alla Terminator. Non ho le competenze per giudicare se gli avvertimenti secondo cui uno sviluppo incontrollato dell'AI porterebbe a un dominio dei modelli linguistici sul mondo siano basati su processi reali o siano semplicemente espressione di technofobia tipica dei periodi di grandi innovazioni scientifico-tecnologiche. Tuttavia, posso chiedermi quale sia la natura di queste paure, poiché ci dicono qualcosa di molto interessante sulle emozioni sociali che lo sviluppo tecnologico suscita.

AI e accademia

È un tema interessante, perché poche settimane fa abbiamo avuto una nostra controversia polacca attorno all'AI – cioè la questione del (non) famoso rapporto Polaków portret własny e della prof.ssa Barbara Mroż-Gorgoń. È sorprendente la scala delle reazioni e la temperatura delle emozioni che l'hanno accompagnata. Oltre al consueto linciaggio online (scrivo «consueto», perché nell'epoca dei social media polarizzati tali reazioni non sono affatto nuove), molte voci critiche sono arrivate da ambienti accademici. Il portavoce della Conferenza dei Rettori delle Università Polacche (organizzazione che riunisce i rettori delle università polacche) ha chiesto scuse alla prof.ssa Mroż-Gorgoń e ha ritenuto inappropriato le sue parole, secondo cui «co secondo professore al mondo utilizza» l'intelligenza artificiale. Nei forum sociali ho letto molte critiche da parte di rappresentanti del mondo accademico, che parlavano anche di una possibile compromissione della scienza polacca.

Da dove nasce questa forte critica? Per rispondere, dobbiamo renderci conto di cosa sia realmente l'intelligenza artificiale, dal punto di vista della scienza come ambito di produzione di conoscenza – e dei ricercatori come persone specializzate in questa produzione.

AI e prestigio nella scienza

Gli entusiasti risponderanno che si tratta di uno strumento che facilita il lavoro. In questo punto devo ammettere che uso i modelli linguistici – principalmente per la revisione della letteratura, un processo noioso ma necessario se si vuole pubblicare su riviste scientifiche di rilievo internazionale. I modelli linguistici accelerano notevolmente questo processo, le loro versioni a pagamento ormai raramente producono «allucinazioni» e sono in grado di trovare articoli scientifici pertinenti all'argomento di interesse, senza che io debba leggere decine di testi per trovare quelli adatti. L'intelligenza artificiale mi permette anche di tradurre in inglese ciò che ho scritto, un vantaggio importante per chi, come rappresentante di una scienza semi-periferica, deve competere con scienziati anglofoni di paesi centrali.

Ci sono anche altri usi non particolarmente controversi dell'AI nella scienza, come l'automazione della raccolta dati (ad esempio da siti web, quando si analizzano discorsi) o la loro analisi preliminare o approfondita (ad esempio creando schemi di categorizzazione e codificando dati qualitativi). Anche chi presenta domande per i bandi di finanziamento utilizza i modelli linguistici – l'AI si rivela un assistente che suggerisce come scrivere una proposta per aumentare le possibilità di successo.

I critici dell'AI sottolineano che l'abuso dei modelli linguistici porta a un'inflazione significativa della produzione scientifica. Secondo un'analisi, uno scienziato che utilizza strumenti di AI pubblica in media tre volte più testi scientifici e può contare su quasi quattro volte più citazioni. Un'altra analisi mostra un aumento significativo del numero di domande di finanziamento presentate nel prestigioso programma Marie Sklodowska-Curie Actions tra il 2022 e il 2025. Tutto ciò rende più facile per i ricercatori scrivere testi o proposte di finanziamento, ma la crescente concorrenza rende più difficile pubblicare quei testi e ottenere i finanziamenti.

Le migliori riviste scientifiche e le agenzie di finanziamento più prestigiose sono letteralmente sommerse da proposte ben scritte. Questa maggiore offerta di conoscenza scientifica non è accompagnata da una domanda crescente. Le riviste più importanti pubblicano lo stesso numero di articoli, e le agenzie dispongono degli stessi budget, quindi il tasso di successo (rapporto tra articoli o proposte accettate e respinte) diminuisce costantemente.

La revisione tra pari e l'inflazione della pubblicazione

A ciò si aggiunge la questione della revisione tra pari, attività fondamentale nella pubblicazione di ricerche. Buoni studi devono essere verificati e controllati da altri esperti del settore, affinché possano essere presentati a un pubblico più ampio in un articolo scientifico. La double-blind peer review, cioè la revisione anonima da parte di altri scienziati, è lo standard nella maggior parte delle discipline. Tuttavia, l'inflazione delle pubblicazioni scientifiche rende sempre più difficile per i ricercatori trovare il tempo di leggere attentamente un articolo, valutarlo correttamente e scrivere una recensione (giustificando passo passo questa valutazione).

Ci sono prove che i modelli linguistici vengono spesso usati non solo per scrivere testi scientifici, ma anche per valutarli. Ci troviamo quindi in una situazione in cui l'intelligenza artificiale scrive articoli per i ricercatori, e poi li valuta al loro posto.

Il prestigio nella scienza

Tutte queste negative conseguenze sono certamente state pensate da coloro che si sono uniti a un coro quasi unanime di critici della prof.ssa Mroż-Gorgoń. Non voglio mettere in discussione le loro buone intenzioni. L'AI può davvero rappresentare una grande minaccia per la scienza, e i suoi strumenti devono essere usati con estrema cautela. La critica stessa rivolta alla coautrice del rapporto è in gran parte giustificata. Tuttavia, la radicalità di questa reazione è sorprendente e forse nasconde una paura inconscia – non tanto delle conseguenze dirette dello sviluppo tecnologico, quanto della perdita di status.

La mia ipotesi è questa: le emozioni legate alla vicenda del rapporto dell'ex portavoce del governo per la promozione della Polonia nel mondo sono un'espressione di paura di un cambiamento radicale delle regole del gioco accademico, basato sul prestigio individuale.

Dal punto di vista di un osservatore esterno, gli scienziati fanno ciò che fanno per far sì che tutti noi viviamo meglio. La conoscenza scientifica serve gli interessi di tutti (ad esempio, farci vivere più a lungo, più sani e più comodamente). Nell'interpretazione classica del sociologo Robert K. Merton, tra gli elementi dell'etica accademica ci sono il comunalismo e l'altruismo, cioè la convinzione che la conoscenza sia un patrimonio comune dell'umanità e che l'attività scientifica debba essere motivata dalla ricerca della verità, e non dall'interesse particolare. Tuttavia, questa è in gran parte un'immagine idealizzata, come hanno anche sottolineato molti critici di Merton.

Non nego che gli scienziati conducano ricerche per il bene dell'umanità. Piuttosto, voglio sottolineare che anche il prestigio personale rimane una motivazione molto importante. Forse è la valuta più preziosa nel mondo della scienza. Come affermava un altro sociologo più pragmatico, Pierre Bourdieu, nella scienza, come in altri ambiti di attività sociale, si tratta di potere. Il potere nella scienza dipende dalla quantità di prestigio, che si traduce in pubblicazioni su riviste di prestigio, progetti finanziati da agenzie di rilievo o dal numero di citazioni.

Il prestigio così accumulato può essere poi scambiato con altre risorse (ad esempio, uno scienziato di alto prestigio può guadagnare di più) o usato come capitale per ottenere successi anche in ambiti extraaccademici (ad esempio, diventare un'autorità mediatica riconosciuta o impegnarsi in politica). Tuttavia, accumulare questa valuta, il prestigio, può essere molto difficile e richiedere molti sacrifici, anche personali. D'altra parte, gli scienziati riconosciuti, cioè quelli che hanno già acquisito molto prestigio, trovano più facile e più rapidamente raggiungere i propri obiettivi di vita.

Per questo tipo di prestigio, è fondamentale attribuire un risultato scientifico a una persona specifica. Il prestigio può essere sempre attribuito a un determinato scienziato nel campo della scienza. Il prestigio è di qualcuno, altrimenti come valuta non avrebbe senso. Per questo gli scienziati attribuiscono grande importanza all'assegnazione di un risultato a un nome – la storia è piena di dispute sulla priorità di una pubblicazione, di una scoperta o di un brevetto. Un altro esempio di questo meccanismo sono le discussioni sull'ordine degli autori in un articolo scientifico – la prima posizione dà sempre il massimo prestigio, la seconda un po' meno, e così via. Sono stato testimone di almeno alcune discussioni animate su chi dovrebbe avere la priorità sul nome.

Un esempio è anche la già menzionata disputa sulla priorità nella soluzione del problema del millennio. Si può chiedere – a chi importa davvero chi ha fatto questa scoperta per primo, se alla fine conta l'incremento della conoscenza? Tuttavia, nella scienza non si tratta solo di questo. Gli scienziati sono spesso motivati dal desiderio di fare qualcosa di significativo, che farà sì che il loro nome venga ricordato nella storia. Possiamo valutarlo in vari modi, ma spesso questa è la realtà.

Cambiamento del gioco sul prestigio

E in effetti, così sembrava, perché l'adozione dei modelli linguistici nell'apprendimento su larga scala sta ridefinendo le regole del gioco accademico. L'AI permette di accumulare molto più rapidamente prestigio sotto forma di articoli, finanziamenti o citazioni. Come ho già detto, si sta verificando un aumento repentino del numero di testi inviati alle riviste di alto livello. Tra l'altro, il mercato editoriale scientifico si è adattato bene a questa situazione – stanno crescendo riviste cosiddette «mietitutto», che pubblicano una dozzina di testi al giorno, con processi di revisione rapidi e alta citabilità. Edizioni come MDPI o Frontiers stanno diventando un ecosistema naturale per la scienza supportata dall'AI.

L'efficacia dell'uso dell'intelligenza artificiale nel lavoro scientifico rende più facile per uno scienziato raggiungere lo status di ricercatore riconosciuto (metto da parte qui la qualità di questa conoscenza, che è un altro tema di discussione). Nel modello tradizionale, almeno nella maggior parte dei casi, l'accumulo di prestigio era piuttosto lento. Nell'era dell'AI, tutto accelera. Uno scienziato può ottenere abbastanza rapidamente risorse di prestigio e usarle in vari ambiti, competendo così con altri accademici che si sono «fatti» secondo le vecchie regole.

Come si può facilmente intuire, questa situazione porta inevitabilmente a un conflitto tra chi sa usare i modelli linguistici, costruendo così la propria posizione nel mondo della scienza «sulla scorciatoia», e chi invece ha dovuto fare molti sacrifici e impiegare molto tempo. Credo che abbiamo assistito a qualcosa di simile nella reazione del mondo accademico polacco alla vicenda della prof.ssa Mroż-Gorgoń.

Naturalmente, il rapporto Polaków portret własny è un esempio perfetto di come non si dovrebbe usare l'AI. Tuttavia, rappresenta anche un anticipo di come potrebbe essere il gioco accademico sul prestigio in futuro e di come coloro che oggi costituiscono l'élite accademica potrebbero non essere in grado di adattarsi alle nuove regole. La prof.ssa Mroż-Gorgoń, da questa prospettiva, è un simbolo di qualcosa che inevitabilmente sta arrivando – un futuro che si presenta non solo come un cambiamento importante, ma come qualcosa che capovolge le gerarchie finora esistenti.

AI e senso di alienazione

L'AI rende inoltre estremamente problematica la risposta alla domanda «chi è l'autore della ricerca/del brevetto/del ritrovamento/dell'articolo», colpendo così il fondamentale – come scritto sopra – aspetto del prestigio accademico, cioè la paternità. Nel modello tradizionale, la situazione era abbastanza chiara – si poteva facilmente attribuire una scoperta a una persona. E anche se, come dimostrava il geniale Ludwik Fleck già quasi cento anni fa, gruppi e collettivi sono i veri creatori delle scoperte scientifiche, secondo le regole del campo accademico dire «sono io l'autore di questa scoperta» è un passo fondamentale nel gioco del prestigio.

Prendiamo ancora una volta l'esempio della soluzione del problema del millennio. Due matematici, che hanno suggerito che OpenAI potrebbe aver «rubato» la loro scoperta, nel loro lavoro si basavano sui modelli linguistici. Questi appartenevano a OpenAI, quindi forse gli scienziati stessi hanno contribuito alla loro sconfitta.

Chi è l'autore del breakthrough? Quei matematici, che probabilmente non sarebbero riusciti a farlo da soli, quindi hanno usato l'AI? Oppure i proprietari di OpenAI, che forse hanno usato prompt preparati da quei matematici per migliorare i propri modelli? O forse l'intelligenza artificiale stessa? Ma l'AI si basa sui dati che sono stati creati in precedenza dagli esseri umani, sull'intera eredità scientifica, e anche i prompt sono formulati da un essere umano.

L'AI si basa ovviamente sulla conoscenza che è stata caricata nel modello linguistico dall'uomo, quindi in definitiva qualcuno vivo è l'autore delle idee che ci suggeriscono i modelli linguistici. Tuttavia, qui si cela un problema legato alla molteplicità di riferimenti che l'AI genera e alla velocità con cui vengono assimilati. Nella ricerca accademica tradizionale, assimilare e usare le idee altrui richiede tempo e in un certo senso trasforma chi utilizza le scoperte altrui. Per citare un testo, prima bisogna leggerlo, capirlo e lasciarsi ispirare, e poi usarlo creativamente, trasformando così il proprio modo di pensare. Se usiamo l'intelligenza artificiale, questo processo si accelera molto, e il meccanismo di assorbimento (cioè assimilare idee altrui per dire qualcosa di proprio) praticamente non avviene. Non c'è tempo affinché le idee altrui diventino le proprie.

Questo, a mio avviso, genera un senso di alienazione rispetto al prodotto del proprio lavoro intellettuale. Se scrivo un articolo e l'AI lo corregge o suggerisce sviluppi a cui non avrei pensato, chi è in definitiva l'autore di quell'articolo? Se l'AI inizia a maneggiare concetti e teorie che non conoscevo e che ho assimilato solo da riassunti, sto usando consapevolmente queste idee (cioè secondo le mie intenzioni autoriali) o mi lascio semplicemente guidare come un burattino nel mio pensiero? Come ho già detto, le idee che circolano nei modelli linguistici probabilmente hanno i loro autori e autrici. Tuttavia, l'esperienza di usare l'AI nel lavoro accademico può portare a un senso scomodo di mancanza di soggettività per gli scienziati.

Nei tempi pre-AI, io come ricercatore pensavo, scoprivo, presentavo e valorizzavo il prestigio acquisito nel corso della carriera. Con l'AI, tutto questo non è più così ovvio. E questo può portare a domande esistenziali. Se non sono più solo io a pensare, a essere autore, allora forse il mondo non ha più bisogno di me come scienziato? Forse lo sviluppo dell'AI in futuro – quando le capacità dei modelli linguistici saranno molto più grandi di oggi – provocherà una consapevolezza irresistibile di essere superflui. Potrebbe essere insostenibile per gli intellettuali, per i quali l'autorialità soggettiva e, di conseguenza, l'individuale prestigio, sono elementi fondamentali della loro identità professionale.

Tornando alla vicenda dell'ex portavoce del governo, la prof.ssa Mroż-Gorgoń non solo ha infranto alcune regole del gioco sul prestigio. Pur avendo interpretato il ruolo di un'esperta addestrata, il suo esempio mostra che il lavoro intellettuale di un tale specialista può essere delegato a un dispositivo relativamente economico e facile da usare.

La reazione eccessiva alla figuraccia della prof.ssa Mroż-Gorgoń forse esprime la paura del futuro, in cui l'autorialità individuale e la soggettività dello scienziato diventeranno cose del passato. Un futuro in cui le scoperte saranno attribuite non solo agli scienziati, ma anche alle aziende e ai modelli di AI. Un futuro in cui le carriere scientifiche (se ancora ci saranno) non si baseranno più sulle regole attuali. In cui il pensiero, la conoscenza e le competenze intellettuali smetteranno di essere elementi fondamentali del prestigio sociale.

Siamo tutti Platone

Per spiegare meglio in che punto si trovano oggi gli scienziati (in Polonia e nel mondo), vale la pena fare riferimento al passaggio chiave nella storia della cultura, cioè dal passaggio dall'orale alla scrittura. L'invenzione e la diffusione della scrittura sono state una rivoluzione tecnologica che ha cambiato molti aspetti della vita sociale, dal commercio alla scienza, alla politica. Tuttavia, non tutti erano entusiasti di questa novità tecnologica. Tra i critici più accesi c'era anche Platone, che riteneva che la scrittura rovina la memoria e mette i filosofi a rischio di incomprensione (chi parla può difendere ciò che dice; la scrittura, una volta diffusa, vive di vita propria, al di fuori del controllo del creatore). La posizione di Platone può essere letta come qualcosa di più di una semplice technofobia: è l'atteggiamento di un rappresentante dell'élite che vede come le regole delle gerarchie sociali esistenti vengono brutalmente cambiate, e le sue competenze non saranno più così apprezzate come un tempo.

La paura, che ha alimentato alcune reazioni violente alla vicenda della prof.ssa Mroż-Gorgoń, è un'emozione che accompagna un atteggiamento simile a quello di Platone. Certamente ci sono molti entusiasti dell'AI nella scienza, e non lo nego. Tuttavia, nel mondo accademico ci sono anche molti oppositori, che oltre alle obiezioni legittime temono di perdere sia il proprio prestigio sia elementi importanti della propria identità.

Da un lato, l'AI probabilmente danneggia alcune competenze, ci rende pigri, forse ci conduce in un vicolo cieco. Già ora si segnala che le informazioni generate dall'AI stessa sono il carburante del sistema, che così funziona a vuoto. Dall'altro, lo sviluppo rapido alimenta una negazione timorosa, che è sia espressione di paura sia tentativo di fermare cambiamenti irreversibili (forse) che stanno capovolgendo il mondo finora conosciuto.

**
Michał Wróblewski – sociologo, filosofo, lavora presso l'Istituto di Sociologia dell'UMK di Toruń, si interessa di sociologia della medicina e sociologia ambientale. Attualmente conduce ricerche sul scetticismo vaccinale e sull'attivismo legato alla qualità dell'aria. Autore tra gli altri di Chi ha paura? Chi è la scienza? Strutture della conoscenza di fronte alle controversie scientifico-sociali (con A. Nowak e K. Abriszewski, Poznań 2016), Sociologia delle epidemie. Malattie infettive emergenti nella prospettiva delle scienze sociali (con Ł. Afeltowicz; Toruń 2021).

Il post Intelligenza artificiale e paure dell'accademia è apparso per primo su Krytyka Polityczna.