L'intelligenza artificiale crea un sogno nazionalista della realtà.

Rapidi, economici, ripetitivi ed efficaci: i post di estrema destra generati dall’intelligenza artificiale stanno inondando internet e i social network. Dietro la facciata kitsch si nascondono parallelismi con la propaganda nazista. La differenza è che oggi la creazione di immagini in diversi formati è accessibile a chiunque e più insidiosa, come dimostra il movimento slovacco Fratello per Fratello.

Perché sviluppare l’ideologia del proprio movimento politico quando è possibile generarla immediatamente con l’aiuto dell’intelligenza artificiale? L’attenzione delle persone è comunque breve. Le narrazioni complesse sono superflue. Basta affidarsi a riferimenti visivi stereotipati al passato ideologico, no?

L’estetica generata dall’intelligenza artificiale sta diventando inseparabile dalla forma globalizzata delle narrazioni estremiste contemporanee, utilizzate dai partiti politici di estrema destra. Le formulazioni nei prompt per i grandi modelli linguistici (LLM), che creano immagini digitali idealizzate, modificano l’identità percepita del «proprio gruppo» nazionalista e influenzano anche la realtà. L’ampiezza delle campagne elettorali di estrema destra invase dai bot dell’IA in Romania e Moldavia nel 2025 ha stabilito un precedente allarmante. L’intelligenza artificiale rafforza anche la retorica del partito tedesco di estrema destra AfD, attualmente molto popolare.

Il nazionalismo slovacco dal basso

Anche i piccoli gruppi nazionalisti sono attivi nella costruzione della propria identità idealizzata. Contribuiscono all’ondata di immagini generate dall’IA per rafforzare il senso di appartenenza dei propri sostenitori. Da un lato, le loro immagini sono anch’esse molto generiche, ma ricorrono anche a riferimenti storici locali.

Il club motociclistico slovacco filorusso Fratello per Fratello, per esempio, condivide regolarmente su Facebook immagini create dall’IA. Vi si vedono giovani uomini e donne bianchi e biondi in costumi tradizionali, una fraterna comunità slava «medievale» e animali selvatici antropomorfizzati che rappresentano Russia, Slovacchia e Repubblica Ceca e stanno fianco a fianco. Le immagini sono spesso ambientate in varie forme di natura selvaggia e illuminate scenograficamente per ottenere un effetto eroico. L’estetica propagandistica contemporanea è una miscela di elementi stratificati: rappresentazioni generiche della natura e persone stilizzate si incontrano con il simbolismo nazionalista in ambientazioni fantasy che ricordano i film in CGI per tutta la famiglia. Gli stereotipi storici non sono scomparsi. I nuovi contenuti vi fanno ampio ricorso e l’IA rende soltanto più facile crearli rapidamente e ripetutamente.

Le fotografie reali di Fratello per Fratello mostrano invece gruppetti di uomini di mezza età che posano insieme in un ambiente urbano, indossando bomber neri con scritte in cirillico. L’unico elemento comune ai due insiemi di immagini è la bandiera russa nelle mani dei motociclisti.

Fratello per Fratello sostiene di essere un gruppo apolitico e organizza eventi commemorativi dedicati al passato sovietico. Dall’inizio dell’invasione su larga scala dell’Ucraina nel 2022, tuttavia, utilizza la propria piattaforma online per sostenere attivamente l’agenda filorussa. Il leader del movimento Matúš Alexa ha incontrato Sergej Naryškin, capo dell’SVR, il Servizio russo di intelligence estera. I membri partecipano regolarmente agli eventi presso l’ambasciata russa a Bratislava e si vantano dei rapporti con l’ex ambasciatore Igor Bratčikov. Nel marzo 2025 il gruppo ha consegnato al presidente slovacco una petizione controversa, che chiedeva la revoca delle sanzioni contro la Russia.

Soft power dell’orso animato

Le rappresentazioni dell’identità slava «autentica» di Fratello per Fratello sono permeate da un’atmosfera apparentemente innocua e amichevole. Rientrano però nell’ondata di altre immagini di estrema destra generate dall’IA che promuovono un nativismo rigido. I media statali russi, che amano la propaganda generata dall’IA, attaccano regolarmente la legittimità delle istituzioni democratiche internazionali, soprattutto in relazione all’adesione dell’Ucraina all’UE. In una serie di immagini provocatorie pubblicate da RIA Novosti, topi dagli occhi rossi demoniaci e dalle zanne digrignate si accalcano in una scatola con la scritta «NATO». Altri, con la bandiera ucraina, seguono il pifferaio di Hamelin oppure guidano una rivolta contadina sotto un arco di stelle dell’UE.

Sebbene nessun singolo post sui social network possa essere in grado di cambiare l’opinione pubblica, insieme possono costituire uno strumento ideologico molto efficace. Il vero potenziale delle immagini generate dall’IA consiste nel fatto che consentono la radicalizzazione e la polarizzazione graduali dell’identità e la creazione di miti. «Se non costruite una grande narrazione, se dite soltanto una cosa qui e una cosa là, ma non permettete mai che si formi l’intero quadro pericoloso», allora è «difficile applicare le leggi che normalmente abbiamo in Europa contro i discorsi d’odio…, perché tutto rimane soltanto implicito», afferma il filosofo del linguaggio Tomáš Koblížek.

Per questo suscitano controversie anche i contenuti che non promuovono apertamente la narrazione filorussa. La serie animata per bambini Maša e Orso, ampiamente disponibile su Netflix, ha recentemente incontrato opposizione in Ucraina e nel Regno Unito perché paragona il proprio orso, «un gigante bonario», alla Russia.

Rendere lo spazio informativo accessibile a un ampio spettro di narrazioni filorusse può essere un esercizio di soft power. Poiché la soft power evita le opinioni esclusivamente politiche e polarizzanti, completa la diplomazia tradizionale e comunica attraverso i canali della società civile.

Alcune immagini propagandistiche sono deliberatamente non conflittuali, che si tratti dell’orso di un cartone animato per bambini o dei post «in stile Disney» di Fratello per Fratello su Facebook. Le rappresentazioni non offensive si diffondono infatti senza ostacoli. La vasta produzione di contenuti di estrema destra generati dall’IA, che satura l’ambiente online, sta diventando sempre più parte del mainstream. L’uso di questa simbologia estremista è condannato e in alcuni Paesi è persino illegale, ma i contenuti di nuova creazione basati su un retroterra ideologico vengono percepiti come moderati se non rappresentano direttamente la violenza. I gruppi nazionalisti e i partiti politici nascondono significati razzisti, omofobi e patriarcali in narrazioni visive edulcorate. All’apparenza si presentano così come normativi ed eludono le restrizioni delle piattaforme digitali.

Quando l’integrità della realtà politica si sgretola pezzo dopo pezzo, a partire da piccole comunità e canali apparentemente innocui, si apre la strada a tattiche analoghe che, senza supervisione, possono influenzare anche il processo elettorale. Gli attori politici usano l’IA non solo per creare contenuti, ma anche per raccogliere dati con cui elaborano profili psicologici dettagliati degli elettori, destinati a campagne altamente personalizzate. Le operazioni segrete che producono grandi quantità di contenuti generati dall’IA consentono inoltre ai creatori politicamente motivati di scoprire quali temi e narrazioni funzionano meglio. La diffusione occasionale della paura è considerata parte del gioco, soprattutto prima delle elezioni, solo per ricordare a tutti chi sarebbe il presunto nemico numero uno. Particolarmente efficaci, tuttavia, si dimostrano anche la satira e l’uso dell’umorismo.

Quanto sono divertenti i deepfake?

Le caricature sono molto presenti nell’IA generativa, perché consente di creare infinite variazioni di persone inserite in scenari immaginari. La creazione di deepfake, per esempio sulla base di immagini dei volti di politici reali, ha suscitato un dibattito sui limiti etici di questo tipo di manipolazione visiva.

Durante il silenzio elettorale del 2023, cioè il periodo stabilito dalla legge prima delle elezioni durante il quale non è consentito fare campagna elettorale, internet in Slovacchia è stato colpito da uno scandalo legato a un deepfake. La registrazione, che falsificava una telefonata tra Michal Šimečka, presidente del partito Slovacchia Progressista, e la giornalista Monika Tódová, si è inizialmente diffusa attraverso Telegram. Ciò che qualche anno fa sorprendeva è oggi una componente ordinaria dell’ecosistema dei social network. Recentemente è inoltre diventato virale un video deepfake di esponenti dell’attuale coalizione di governo e di un oligarca, che nel video si troverebbero presumibilmente in carcere. È stato creato da un utente di Instagram e si è diffuso anche perché è stato condiviso da politici dell’opposizione.

I politici slovacchi tendono a ridicolizzare i propri avversari. Dopo questi casi e dopo la nuova legislazione dell’UE, entrata in vigore all’inizio di agosto 2026, si sono però lanciati nella lotta contro i video deepfake. Sul tavolo c’è un divieto completo, con pene che vanno dalla multa alla reclusione fino a due anni. Nel frattempo, gli esperti hanno espresso preoccupazione per l’attribuzione delle responsabilità. Si chiedono se la colpa maggiore ricada su chi impartisce i prompt all’IA o sui modelli stessi, e sottolineano anche che trovare il vero creatore di contenuti dannosi è molto difficile. In alcuni casi è chiaro chi abbia pubblicato l’immagine, per esempio sulla pagina Facebook di Fratello per Fratello. Molti account sono però anonimi e i contenuti generati dall’IA spesso si diffondono attraverso reti di bot, spostando la colpa ancora un gradino più in là. In Europa, per i contenuti diffusi sulle grandi piattaforme online è responsabile il regolamento sui servizi digitali (DSA). La sua applicazione è tuttavia perlopiù reattiva e si concentra più sulla responsabilità delle piattaforme di social media che sulla regolamentazione degli strumenti di IA utilizzati per creare contenuti fuorvianti. 

La legislazione proposta per la protezione dell’identità digitale può mirare a proteggere le persone dall’uso improprio del proprio volto nei contenuti deepfake, ma affronta soltanto una parte del problema. Innanzitutto, non si occupa affatto dell’ondata di immagini generate dall’IA attraverso l’intero spettro politico. Non affronta nemmeno il cosiddetto diniego plausibile, con cui le persone evitano la responsabilità per comportamenti offensivi: «Se qualcuno vi accusa, per esempio, di razzismo o omofobia, potete semplicemente sostenere che era uno scherzo», afferma Koblížek. E non si chiede nemmeno se l’IA generativa sarebbe altrettanto efficace se non esistessero i pregiudizi su cui fanno affidamento gli utenti dell’IA.

Ravvivare il modernismo reazionario

«Se guardate a come il settimanale tedesco Der Stürmer rappresentava gli ebrei negli anni Trenta, è molto simile a come oggi l’AfD rappresenta i migranti attraverso immagini generate dall’IA», afferma il ricercatore di iconografia politica Jacopo Galimberti. Le immagini naziste di famiglie ariane idealizzate possono essere paragonate a quelle create da Fratello per Fratello. La stereotipizzazione è uno strumento nazionalista comune, particolarmente efficace in forma visiva, perché esagera le differenze tra «l’ideale» e «l’altro».

Gran parte della propaganda nazista si basava su rappresentazioni figurative di temi come la famiglia tradizionale. Utilizzava immagini facilmente riconoscibili e prive di complessità visiva, ma traboccanti di orgoglio civico. Allo stesso modo venivano celebrati i macchinari. L’entusiasmo dei nazisti per il progresso tecnologico mirava a fermare il presunto declino della cultura occidentale e a lanciare un appello a una sorta di risveglio spirituale. Dopo la guerra Jeffrey Herf definì questa visione «modernismo reazionario». Era un movimento disposto, paradossalmente, a sfruttare lo sviluppo tecnologico nel tentativo di tornare ai miti e alle idee nazionaliste tradizionali.

Il recente sviluppo delle tecnologie digitali, compresi gli strumenti di IA e il loro utilizzo, presenta parallelismi con il modernismo reazionario del XX secolo. Il «tecno-fascismo» indica un’ideologia di espansione tecnologica al di sopra dell’infrastruttura democratica dello Stato, che assegna alle grandi aziende tecnologiche compiti decisionali nel governo guidato da personalità come Peter Thiel ed Elon Musk. L’estetica dei veicoli Tesla Cybertruck e delle trad wives (mogli tradizionali) si avvicina in modo inquietante all’ossessione del regime nazista per la tecnologia militare e le famiglie razzialmente pure.

È però cambiato l’aspetto partecipativo dell’IA generativa, che trasforma ogni consumatore in creatore di contenuti. La propaganda nazista era organizzata per le masse, non dalle masse. Joseph Goebbels considerava il cinema il principale mezzo di diffusione dell’ideologia nazionalsocialista e ne sfruttava il carattere d’intrattenimento per sviluppare la propaganda bellica. I film di quel periodo, come le commedie popolari, sembrano raccontare storie apolitiche, ma vi rappresentano politiche razziste. L’influenza del cinema rimase così cruciale per il regime che ancora pochi mesi prima della capitolazione della Germania le persone venivano «reclutate» come comparse per le ultime produzioni nazionalsocialiste.

L’IA generativa odierna fa un passo ulteriore rispetto al coinvolgimento dei civili come comparse sul grande schermo. Offre ai consumatori piena partecipazione e possibilità di personalizzazione nella creazione dei contenuti e dà loro il controllo sulle proprie visualizzazioni sul piccolo schermo. Poiché la creazione è gratuita, le immagini generate dall’IA alimentano forme popolari di propaganda. I contenuti provocatori possono ora diventare virali con l’aiuto di reti automatizzate di bot, che rafforzano i post nei feed degli utenti e li mascherano da clickbait. I membri di Fratello per Fratello di Revúca, una città di 10.000 abitanti nella Slovacchia centrale, non hanno bisogno di un produttore né di un pubblico locale. Con pochi clic possono visualizzare tutte le proprie idee sull’identità e sulle strutture di potere e trasmetterle a una rete di utenti che consumano volentieri i messaggi nazionalisti.

La realtà «enshittificata» del realismo delle piattaforme

I contenuti online generati dall’IA sono relativamente nuovi, ma già diffusi. Vengono creati con una tavolozza chiara e colorata, dotata di un carattere visivo riconoscibile, e si sono già guadagnati un termine scientifico: «realismo delle piattaforme». Il concetto è stato introdotto da Jacob Birken e ulteriormente sviluppato da Roland Meyer. Indica caratteristiche dell’IA generativa come leggibilità, credibilità e un rapporto strutturalmente nostalgico con i media del passato. Meyer sottolinea che già la stessa origine dei prodotti dell’IA generativa li separa dalla realtà come la conosciamo, a partire dal modo in cui gli LLM elaborano i prompt inseriti. Meyer spiega: «Nonostante la popolarità del termine “prompt engineering”, la loro funzione non è eseguire un programma preciso, ma applicare parametri sfocati che restringono i possibili risultati e guidano il modello verso una determinata area in uno spazio statistico apparentemente infinito di possibilità». Alla fine l’utente deve provare più volte prima di ottenere un’immagine che gli piaccia. È essenzialmente un processo di spreco, sia in termini di risorse sia perché sovraccarica lo spazio online di rifiuti visivi, nostalgia e clickbait.

Nel tentativo di analizzare questa nuova realtà, i ricercatori attingono a numerosi ambiti, dalla filosofia e dalla sociologia fino agli studi sull’elaborazione e sui sistemi informativi. Si basano sul concetto di simulacri e iperrealtà di Jean Baudrillard. La sua teoria descrive come le rappresentazioni possano essere percepite come più reali della realtà stessa. Per illustrarla utilizza Disneyland e mostra in che modo l’iperrealtà sostituisca la realtà oltre i confini del parco divertimenti. Baudrillard sostiene che abbiamo già superato questo punto: il «mondo reale» è oggi pieno di simulacri, quindi è quasi impossibile trovare ancora rappresentazioni «reali». 

Il simulacro di un nuovo livello è una realtà generata autonomamente, approssimata a partire dai nostri archivi di conoscenza. La creazione artistica, o in questo caso la creazione di propaganda, che in precedenza richiedeva l’immaginazione umana, si è trasformata in una serie ridotta di prompt per i modelli di IA. E la rappresentazione del mondo reale intorno a noi è stata sostituita da immagini completamente artificiali.

In accordo con la teoria dei media del filosofo Marshall McLuhan, secondo cui la tecnologia è un’«estensione della coscienza», sembra che l’IA fornisca ai membri di Fratello per Fratello la realtà dei loro sogni. Le immagini generate dall’IA possono persino modificare la loro autopercezione, ammesso che queste scelte estetiche plasmino la loro percezione della realtà. I filosofi Philippe Lacoue-Labarthe e Jean-Luc Nancy scrivono nel loro saggio Il mito nazista del 1990 che «il potere mitico è il potere del sogno, della proiezione di un’immagine con cui l’uomo si identifica». Gli strumenti per rappresentare e comunicare l’identità sono cambiati radicalmente, ma il vecchio mito dell’unità slava persiste e, grazie a gruppi come Fratello per Fratello, viene infinitamente amplificato. La creazione di immagini con possibilità apparentemente infinite comporta tuttavia notevoli insidie.

«L’apprendimento automatico funziona sulla base della correlazione e dell’analogia, in un modo più vicino all’alchimia che alla scienza fondata su causa ed effetto», afferma l’artista dei media digitali Hito Steyerl. «Esiste una vicinanza tra il pensiero magico e gli elementi dell’apprendimento automatico. Le grandi aziende promuovono evidentemente questa atmosfera magica solo per vendere i propri prodotti. Non hanno nulla di magico, sono piuttosto cosiddette enshittificanti, cioè trasformano tutto in spazzatura.»

L’inquinamento strategico dei grandi modelli linguistici

Gli LLM imparano dagli archivi virtuali che forniamo loro e nei quali domina l’Occidente. Una volta riconosciuti gli schemi, è possibile riprodurli in massa in infinite variazioni. Le informazioni prevalenti sono quindi distorte.

«Quando riflettete sulla questione della responsabilità, spesso emerge la tendenza a spostare l’attenzione sugli strumenti di IA stessi. Parliamo di ciò che l’IA ci ha portato, se nega o meno l’Olocausto. Ma la responsabilità ricade in realtà sui creatori del contenuto specifico o sui fornitori del modello di IA, e queste responsabilità possono differire», afferma Koblížek.

La tecnologia si sviluppa più rapidamente della regolamentazione. Il ritmo e la complessità dello sviluppo degli LLM hanno raggiunto un livello al quale non è possibile tenere il passo nel verificare se i modelli siano addestrati deliberatamente a diffondere una certa retorica oppure se i responsabili abbiano semplicemente fallito nel prevenire tali distorsioni. Lo spazio online è condiviso da utenti comuni e da siti falsi  che producono in massa contenuti il cui pubblico di riferimento sono altri bot, destinati alla futura creazione di contenuti. E, come osserva Koblížek, i gruppi di estrema destra desiderano che il loro materiale diventi parte dell’ambiente degli LLM: «I gruppi estremisti lavorano attivamente affinché questo contenuto sia disponibile online, anche se non ottiene molte visualizzazioni, semplicemente perché sia presente come potenziale fonte per l’addestramento dell’IA».

Dato il modo in cui funziona, l’IA generativa tende inoltre a rafforzare le immagini sessiste e razziste già presenti negli archivi virtuali che sono fonti degli LLM e che gli attori di estrema destra cercano. «Permette alla destra di evocare un passato nostalgico e senza tempo che non è mai esistito al di fuori delle immagini utilizzate per addestrare il software», afferma Meyer. Il meccanismo reciproco di domanda e offerta funziona. Aggiungete un formato facilmente condivisibile online e la macchina propagandistica è pronta.

In alcuni casi vediamo che anche politici con posizioni differenti si accodano alle tendenze dei social network e generano contenuti propri per deridere i loro avversari. «Liberali, progressisti e persone di sinistra, al contrario, sono stati generalmente prudenti nell’uso pubblico dell’IA, non solo a causa delle note distorsioni dei modelli, ma anche per lo sfruttamento massiccio del lavoro e della creatività umani, nonché delle risorse naturali, associato all’addestramento dei modelli di IA. Per la destra, quindi, adottare un’estetica riconoscibile dell’IA o lo “slop” è anche un modo per provocare e trollare i propri oppositori», aggiunge Meyer.

Presto forse discuteremo non solo della generazione di nuove immagini, ma anche della protezione dell’integrità del passato, che può essere facilmente modificato in modo orwelliano. Il governo degli Stati Uniti ha già cominciato: sta rimuovendo dalle pagine web del proprio esercito immagini di donne, persone LGBTQIA+ e persone di altre etnie. Meyer mette in guardia contro l’«oblio digitale». In altre parole, non dovremmo essere così certi della «piena accessibilità del passato». «Questo non genera soltanto una sfiducia onnipresente verso qualsiasi prova visiva, ma crea anche aspettative fuorvianti su come dovrebbero apparire i documenti storici», afferma. Quando cancelliamo gli originali dai nostri archivi, possono rimanere soltanto come ombre nel materiale di addestramento degli LLM.

Talvolta musei e istituzioni pubbliche utilizzano direttamente l’IA generativa per colmare lacune storiche e ravvivare il passato. Secondo Meyer, «questi usi speculativi sono spesso fuorvianti. Tendono a riprodurre i cliché esistenti sul passato e su come dovrebbe essere rappresentato, invece di aprire una nuova prospettiva sulla storia».

Le istituzioni devono mantenere vive le idee di verità, sviluppare la consapevolezza del pubblico e contribuire a definire i principi di una corretta pratica nell’uso dell’IA. Regolamentare la tecnologia al ritmo con cui si sviluppa sarà una sfida permanente.

I contenuti generati dall’IA da gruppi come Fratello per Fratello possono essere prodotti all’infinito. Nel frattempo, potrebbero raggiungere un punto di saturazione e alla fine convincere soltanto chi è già convinto, oppure semplicemente stancare il proprio pubblico, come è accaduto in precedenza con altre forme di propaganda.

L’autrice è una giornalista che si occupa di politica ed energia slovacche per The European Correspondent e VSquare.

Pubblichiamo il testo in collaborazione con Eurozine

Questo articolo è pubblicato con il sostegno della fondazione ZEIT-Stiftung Ebelin und Gerd Bucerius.