L’intelligence artificielle crée un rêve nationaliste de la réalité.

Rapides, bon marché, répétitives et efficaces : les publications d’extrême droite générées par l’intelligence artificielle inondent internet et les réseaux sociaux. Derrière une façade kitsch se cachent des parallèles avec la propagande nazie. La différence réside dans le fait que la création d’images dans différents formats est aujourd’hui accessible à tout le monde et plus insidieuse, comme le montre le mouvement slovaque Brat za Brata.

Pourquoi développer l’idéologie de son mouvement politique quand on peut la générer instantanément à l’aide de l’intelligence artificielle ? L’attention des gens est de toute façon de courte durée. Les récits complexes sont inutiles. Il suffit après tout de s’appuyer sur des références visuelles stéréotypées au passé idéologique, non ?

L’esthétique générée par l’intelligence artificielle devient indissociable de la forme mondialisée des récits extrémistes contemporains utilisés par les partis politiques d’extrême droite. Les formulations des prompts destinés aux grands modèles de langage (LLM), qui créent des images numériques idéalisées, modifient l’identité perçue du « propre groupe » nationaliste et influencent également la réalité. L’ampleur des campagnes électorales d’extrême droite inondées de bots d’IA en Roumanie et en Moldavie en 2025 a établi un précédent alarmant. L’intelligence artificielle renforce également la rhétorique de l’AfD, le parti allemand d’extrême droite actuellement très performant.

Le nationalisme slovaque par le bas

Même de petits groupes nationalistes participent activement à la construction de leur identité idéalisée. Ils contribuent à la déferlante d’images générées par l’IA afin de renforcer le sentiment d’appartenance de leurs sympathisants. Leurs images sont, d’une part, très générales, mais elles puisent aussi dans des références historiques locales.

Le club de motards slovaque prorusse Brat za Brata, par exemple, partage régulièrement sur Facebook des images créées par l’IA. On y voit de jeunes hommes et femmes blancs et blonds en costumes traditionnels, une fraternité slave « médiévale » musclée et des animaux sauvages anthropomorphisés représentant la Russie, la Slovaquie et la Tchéquie, debout côte à côte. Les images sont souvent situées dans différentes formes de nature sauvage et éclairées de manière dramatique pour produire un effet héroïque. L’esthétique propagandiste contemporaine est un mélange d’éléments à plusieurs niveaux : des représentations génériques de la nature et des personnes stylisées se rencontrent avec une symbolique nationaliste dans des univers fantastiques qui rappellent les films en images de synthèse pour toute la famille. Les stéréotypes historiques n’ont pas disparu. Le nouveau contenu s’y réfère fortement et l’IA facilite simplement leur création rapide et répétée.

Les véritables photographies de Brat za Brata montrent en revanche des groupes d’hommes d’âge moyen posant ensemble dans un environnement urbain, vêtus de blousons bomber noirs portant des inscriptions en cyrillique. La seule chose commune aux deux ensembles d’images est le drapeau russe entre les mains des motards.

Brat za Brata affirme être un groupe apolitique et organise des événements commémoratifs consacrés au passé soviétique. Depuis le début de l’invasion à grande échelle de l’Ukraine en 2022, il utilise toutefois sa plateforme en ligne pour soutenir activement l’agenda prorusse. Le dirigeant du mouvement Matúš Alexa a rencontré Sergueï Narychkine, chef du SVR, le service russe des renseignements extérieurs. Les membres participent régulièrement à des événements à l’ambassade russe de Bratislava et se vantent de leurs relations avec l’ancien ambassadeur Igor Bratčikov. En mars 2025, le groupe a remis au président slovaque une pétition controversée demandant la levée des sanctions contre la Russie.

Soft power de l’ours animé

Les représentations de la « véritable » identité slave par Brat za Brata sont imprégnées d’une atmosphère apparemment innocente et amicale. Elles s’inscrivent toutefois dans une vague d’autres images d’extrême droite générées par l’IA, qui prônent un nativisme strict. Les médias d’État russes, qui apprécient particulièrement la propagande générée par l’IA, attaquent régulièrement la légitimité des institutions démocratiques internationales, notamment en ce qui concerne l’adhésion de l’Ukraine à l’UE. Dans une série d’images provocatrices publiées par RIA Novosti, des rats aux yeux rouges démoniaques et aux crocs découverts se pressent dans une boîte portant l’inscription « OTAN ». D’autres, arborant le drapeau ukrainien, suivent le joueur de flûte de Hamelin ou mènent une révolte paysanne sous une arche d’étoiles de l’UE.

Aucune publication isolée sur les réseaux sociaux ne peut certes nécessairement modifier l’opinion publique, mais elles peuvent, ensemble, constituer un outil idéologique très efficace. Le véritable potentiel des images générées par l’IA réside dans le fait qu’elles permettent une radicalisation et une polarisation progressives de l’identité ainsi que la création de mythes. « Si vous ne construisez pas un grand récit, si vous dites seulement quelque chose ici et quelque chose là, mais ne permettez jamais qu’une image dangereuse complète se forme », alors il est « difficile d’appliquer les lois que nous avons généralement en Europe contre les discours haineux…, parce que tout reste seulement suggéré », explique le philosophe du langage Tomáš Koblížek.

Les controverses concernent donc également les contenus qui ne promeuvent pas ouvertement le récit prorusse. La série pour enfants largement disponible Маша et l’ours sur Netflix a récemment suscité une opposition en Ukraine et en Grande-Bretagne, car elle compare son ours, « un géant bienveillant », à la Russie.

L’ouverture de l’espace informationnel à un large éventail de récits prorusses peut constituer un exercice de soft power. En évitant les opinions exclusivement politiques et polarisantes, le soft power complète la diplomatie traditionnelle et communique par l’intermédiaire des canaux de la société civile.

Certaines images de propagande sont volontairement non conflictuelles, qu’il s’agisse de l’ours d’un dessin animé pour enfants ou des publications « d’inspiration Disney » de Brat za Brata sur Facebook. Les représentations non offensantes se diffusent en effet sans obstacle. La vaste production de contenus d’extrême droite générés par l’IA, qui sature l’environnement en ligne, devient de plus en plus une composante du courant dominant. L’utilisation de cette symbolique extrémiste est condamnée et même illégale dans certains pays, mais les contenus nouvellement créés issus d’un arrière-plan idéologique sont perçus comme modérés lorsqu’ils ne représentent pas directement la violence. Les groupes nationalistes et les partis politiques dissimulent des significations racistes, homophobes et patriarcales dans des récits visuels édulcorés. Ils donnent ainsi en apparence une impression de normalité et contournent les restrictions des plateformes numériques.

Lorsque l’intégrité de la réalité politique se désagrège morceau par morceau, en commençant par de petites communautés et des canaux apparemment innocents, la voie s’ouvre à des tactiques similaires qui, sans surveillance, peuvent également influencer le processus électoral. Les acteurs politiques utilisent l’IA non seulement pour créer du contenu, mais aussi pour collecter des données à partir desquelles ils élaborent des profils psychologiques détaillés des électeurs pour une campagne hautement personnalisée. Les opérations clandestines qui produisent de grandes quantités de contenu généré par l’IA permettent également aux créateurs politiquement motivés de déterminer quels sujets et quels récits sont les plus efficaces. La diffusion occasionnelle de la peur est considérée comme faisant partie du jeu, surtout avant les élections, ne serait-ce que pour rappeler à tous qui est prétendument l’ennemi numéro un. La satire et l’utilisation de l’humour se révèlent toutefois particulièrement efficaces.

À quel point les deepfakes sont-ils amusants ?

Les caricatures sont très présentes dans l’IA générative, car celle-ci permet de créer une infinité de variations de personnes placées dans des scénarios imaginaires. La création de deepfakes, par exemple à partir de clichés représentant les visages de véritables responsables politiques, a suscité un débat sur les limites éthiques de cette manipulation visuelle.

Pendant le moratoire électoral de 2023, c’est-à-dire la période légalement fixée avant les élections durant laquelle toute campagne est interdite, un scandale lié à un deepfake a secoué internet en Slovaquie. Un enregistrement falsifiant une conversation téléphonique entre Michal Šimečka, président du parti Slovaquie progressiste, et la journaliste Monika Tódová, s’est d’abord propagé sur Telegram. Ce qui était surprenant il y a quelques années fait aujourd’hui partie intégrante de l’écosystème des réseaux sociaux. Récemment, une vidéo deepfake montrant des responsables actuels de la coalition et un oligarque prétendument en prison est devenue virale. Elle a été créée par un utilisateur d’Instagram et s’est également répandue parce qu’elle a été partagée par des responsables politiques de l’opposition.

Les responsables politiques slovaques ont tendance à ridiculiser leurs adversaires. Après ces affaires et à la suite de la nouvelle législation européenne entrée en vigueur au début du mois d’août 2026, ils se sont toutefois lancés dans la lutte contre les vidéos deepfake. Une interdiction totale ainsi que des peines allant de l’amende à une peine d’emprisonnement pouvant atteindre deux ans sont à l’étude. Entre-temps, les experts ont exprimé des inquiétudes quant à l’attribution des responsabilités. Ils se demandent si la faute incombe principalement à ceux qui saisissent les prompts dans l’IA ou aux modèles eux-mêmes, et soulignent également qu’il est très difficile d’identifier le véritable créateur d’un contenu nuisible. Dans certains cas, il est clair qui a publié l’image, par exemple sur la page Facebook de Brat za Brata. De nombreux comptes sont toutefois anonymes et les contenus générés par l’IA se diffusent souvent par l’intermédiaire de réseaux de bots, ce qui éloigne encore davantage la responsabilité. En Europe, la responsabilité des contenus diffusés sur les grandes plateformes en ligne relève du règlement sur les services numériques (DSA). Son application reste toutefois largement réactive et se concentre davantage sur la responsabilité des plateformes de réseaux sociaux que sur la réglementation des outils d’IA utilisés pour créer des contenus trompeurs. 

La législation proposée pour protéger l’identité numérique peut viser à protéger les personnes contre l’utilisation abusive de leur visage dans des contenus deepfake, mais elle ne résout qu’une partie du problème. Tout d’abord, elle ne s’attaque absolument pas à la déferlante d’images générées par l’IA dans l’ensemble du spectre politique. Elle ne traite pas non plus du déni plausible, par lequel les gens évitent d’assumer la responsabilité d’un comportement offensant : « Si quelqu’un vous accuse, par exemple, de racisme ou d’homophobie, vous pouvez simplement prétendre que c’était une plaisanterie », explique Koblížek. Elle ne se demande pas non plus si l’IA générative serait aussi efficace si les préjugés sur lesquels s’appuient les utilisateurs de l’IA n’existaient pas.

La résurgence du modernisme réactionnaire

« Si vous regardez la manière dont l’hebdomadaire allemand Der Stürmer représentait les Juifs dans les années 1930, c’est très similaire à la manière dont l’AfD représente aujourd’hui les migrants au moyen d’images générées par l’IA », déclare le chercheur en iconographie politique Jacopo Galimberti. Les images nazies de familles aryennes idéalisées peuvent être comparées à celles créées par Brat za Brata. La stéréotypisation est un outil nationaliste courant, particulièrement efficace sous forme visuelle, car elle exagère les différences entre « l’idéal » et « l’autre ».

Une grande partie de la propagande nazie reposait sur des représentations figuratives de thèmes tels que la famille traditionnelle. Elle utilisait des images facilement reconnaissables, sans complexité visuelle, mais débordant de fierté civique. Les machines étaient également glorifiées. L’enthousiasme des nazis pour le progrès technologique visait à mettre fin au prétendu déclin de la culture occidentale et à appeler à une sorte de réveil spirituel. Après la guerre, Jeffrey Herf a qualifié cette vision de « modernisme réactionnaire ». Il s’agissait d’un mouvement paradoxalement disposé à utiliser le progrès technologique pour revenir aux mythes et aux idées nationalistes traditionnels.

L’évolution récente des technologies numériques, y compris les outils d’IA et leur utilisation, présente des parallèles avec le modernisme réactionnaire du XXe siècle. Le « techno-fascisme » désigne une idéologie d’expansion technologique au-dessus de l’infrastructure démocratique de l’État, qui confie des fonctions décisionnelles gouvernementales aux grandes entreprises technologiques sous la direction de personnalités telles que Peter Thiel et Elon Musk. L’esthétique des véhicules Tesla Cybertruck et des trad wives (épouses traditionnelles) se rapproche de manière inquiétante de l’obsession du régime nazi pour la technologie militaire et les familles racialement pures.

L’aspect participatif de l’IA générative, qui transforme chaque consommateur en créateur de contenu, a toutefois changé. La propagande nazie était organisée pour les masses, et non par les masses. Joseph Goebbels considérait le cinéma comme le principal média de diffusion de l’idéologie national-socialiste et utilisait son caractère divertissant pour développer la propagande de guerre. Les films de cette période, comme les comédies populaires, racontent apparemment des histoires apolitiques, mais y représentent des politiques racistes. L’influence du cinéma resta si essentielle pour le régime que, quelques mois encore avant la capitulation de l’Allemagne, des personnes étaient toujours « recrutées » comme figurants pour les dernières productions national-socialistes.

L’IA générative actuelle va un pas plus loin que la participation de civils comme figurants sur grand écran. Elle offre aux consommateurs une participation totale et une personnalisation dans la création de contenus, et leur donne le contrôle de leurs visualisations sur un petit écran. Puisque la création est gratuite, les images générées par l’IA alimentent les formes populaires de propagande. Les contenus provocateurs peuvent désormais devenir viraux grâce à des réseaux automatisés de bots qui renforcent les publications dans les fils des utilisateurs et les camouflent en clickbait. Les membres de Brat za Brata de Revúca, une ville de 10 000 habitants du centre de la Slovaquie, n’ont besoin ni de producteur ni de public local. En quelques clics, ils peuvent visualiser toutes leurs idées sur l’identité et les structures de pouvoir et les transmettre à un réseau d’utilisateurs qui consomment volontiers les messages nationalistes.

La réalité « enshittifiée » du réalisme des plateformes

Les contenus générés par l’IA en ligne sont relativement nouveaux, mais déjà largement répandus. Ils sont créés dans une palette claire et colorée, au caractère visuel reconnaissable, et ont déjà reçu un terme scientifique : le « réalisme des plateformes ». Le concept a été introduit par Jacob Birken puis développé par Roland Meyer. Il désigne des caractéristiques de l’IA générative telles que la lisibilité, la vraisemblance et une relation structurellement nostalgique aux médias du passé. Meyer souligne que l’origine même des produits de l’IA générative les sépare de la réalité telle que nous la connaissons, notamment par la manière dont les LLM traitent les prompts saisis. Meyer explique : « Malgré la popularité du terme “prompt engineering”, leur fonction n’est pas d’exécuter un programme précis, mais de fournir des paramètres flous qui réduisent les résultats possibles et orientent le modèle vers une certaine zone dans un espace statistique apparemment infini de possibilités. » L’utilisateur doit finalement faire plusieurs essais avant d’obtenir une image qui lui plaît. Il s’agit essentiellement d’un processus de gaspillage, tant du point de vue des ressources que parce qu’il encombre l’espace en ligne de déchets visuels, de nostalgie et de clickbait.

Pour tenter d’analyser cette nouvelle réalité, les chercheurs s’appuient sur de nombreux domaines, de la philosophie et de la sociologie aux études du traitement et des systèmes d’information. Ils s’appuient sur les concepts de simulacres et d’hyperréalité de Jean Baudrillard. Sa théorie décrit la manière dont les représentations peuvent être perçues comme plus réelles que la réalité elle-même. Pour l’illustrer, il utilise Disneyland et montre comment l’hyperréalité remplace la réalité au-delà des limites du parc d’attractions. Baudrillard affirme que nous avons déjà dépassé ce point : le « monde réel » est aujourd’hui rempli de simulacres, si bien qu’il est presque impossible d’y trouver encore des représentations « réelles ». 

Le simulacre d’un nouveau niveau est une réalité générée de manière autonome, approximée à partir de nos archives de connaissances. La création artistique, ou dans ce cas la création de propagande, qui exigeait auparavant l’imagination humaine, s’est transformée en une série réduite de prompts pour des modèles d’IA. Et la représentation du monde réel qui nous entoure a été remplacée par des images entièrement artificielles.

Conformément à la théorie des médias du philosophe Marshall McLuhan, selon laquelle la technologie est une « extension de la conscience », il semble que l’IA fournisse aux membres de Brat za Brata la réalité dont ils rêvent. Les images générées par l’IA peuvent même modifier leur perception d’eux-mêmes, à condition que ces choix esthétiques façonnent leur perception de la réalité. Les philosophes Philippe Lacoue-Labarthe et Jean-Luc Nancy écrivent dans leur essai Le Mythe nazi de 1990 que « le pouvoir mythique est le pouvoir du rêve, de la projection d’une image à laquelle on s’identifie ». Les outils de représentation et de communication de l’identité ont radicalement changé, mais le vieux mythe de l’unité slave persiste et s’exagère à l’infini grâce à des groupes comme Brat za Brata. La création d’images aux possibilités apparemment infinies comporte toutefois des écueils importants.

« L’apprentissage automatique fonctionne sur la base de la corrélation et de l’analogie, d’une manière plus proche de l’alchimie que d’une science fondée sur la cause et l’effet », déclare l’artiste des médias numériques Hito Steyerl. « Il existe une proximité entre la pensée magique et les éléments de l’apprentissage automatique. Mais les grandes entreprises ne promeuvent manifestement cette atmosphère magique que pour vendre leurs produits. Ils ne sont pas magiques du tout, ils sont plutôt ce qu’on appelle des outils d’“enshittification”, c’est-à-dire qu’ils transforment tout en camelote. »

La pollution stratégique des grands modèles de langage

Les LLM apprennent à partir des archives virtuelles que nous leur fournissons et dans lesquelles l’Occident domine. Une fois les schémas identifiés, ils peuvent être reproduits en masse dans une infinité de variations. Les informations dominantes sont donc déformées.

« Lorsque vous réfléchissez à la question de la responsabilité, il existe souvent une tendance à déplacer l’attention vers les outils d’IA eux-mêmes. Nous parlons de ce que l’IA nous a apporté, de la question de savoir si elle nie l’Holocauste ou non. Mais la responsabilité incombe en réalité aux créateurs du contenu concerné ou aux fournisseurs du modèle d’IA, et ces responsabilités peuvent différer », explique Koblížek.

La technologie évolue plus vite que la réglementation. Le rythme et la complexité du développement des LLM atteignent un niveau qui ne permet pas de suivre si les modèles sont délibérément entraînés à diffuser une certaine rhétorique ou si les responsables ont simplement échoué à empêcher ces distorsions. L’espace en ligne est partagé par des utilisateurs ordinaires et des faux sites web  produisant en masse des contenus dont le public cible est constitué d’autres bots servant à la future création de contenus. Et comme le fait remarquer Koblížek, les groupes d’extrême droite souhaitent ardemment que leurs contenus fassent partie de l’environnement des LLM : « Les groupes extrémistes travaillent activement pour que ces contenus soient disponibles en ligne, même s’ils n’obtiennent pas beaucoup de vues, simplement pour qu’ils soient présents comme source potentielle d’entraînement de l’IA. »

Compte tenu de son fonctionnement, l’IA générative tend également à renforcer les images sexistes et racistes déjà présentes dans les archives virtuelles qui constituent les sources des LLM et que recherchent les acteurs d’extrême droite. « Elle permet à la droite de faire surgir un passé nostalgique et intemporel qui n’a jamais existé en dehors des images utilisées pour entraîner le logiciel », explique Meyer. Le mécanisme réciproque de l’offre et de la demande fonctionne. Ajoutez un format facilement partageable en ligne, et la machine de propagande est en place.

Dans certains cas, nous voyons aussi des responsables politiques ayant d’autres positions politiques surfer sur les tendances des réseaux sociaux et générer leur propre contenu pour ridiculiser leurs adversaires. « Les libéraux, les progressistes et les gens de gauche ont toutefois, à l’inverse, généralement fait preuve de retenue dans l’utilisation publique de l’IA, non seulement en raison des biais bien connus des modèles, mais aussi en raison de l’exploitation massive du travail et de la créativité humaines, ainsi que des ressources naturelles liées à l’entraînement des modèles d’IA. Pour la droite, l’adoption d’une esthétique reconnaissable de l’IA ou du “slop” est donc aussi une manière de provoquer et de troller ses adversaires », ajoute Meyer.

Bientôt, nous discuterons peut-être non seulement de la génération de nouvelles images, mais aussi de la protection de l’intégrité du passé, qui peut être facilement modifié de manière orwellienne. Le gouvernement américain a déjà commencé : il retire des images de femmes, de personnes LGBTQIA+ et de personnes racisées des sites web de son armée. Meyer met en garde contre « l’oubli numérique ». Autrement dit, nous ne devrions pas être aussi certains de « l’accessibilité totale du passé ». « Cela ne produit pas seulement une méfiance omniprésente à l’égard de toute preuve visuelle, mais crée également des attentes trompeuses quant à l’apparence que devraient avoir les documents historiques », explique-t-il. Lorsque nous effaçons les originaux de nos archives, ils peuvent ne subsister que comme des ombres dans le matériel d’entraînement des LLM.

Les musées et les institutions publiques utilisent parfois eux-mêmes l’IA générative pour combler les lacunes historiques et faire revivre le passé. Selon Meyer, « de telles utilisations spéculatives sont souvent trompeuses. Elles tendent à reproduire les clichés existants sur le passé et sur la manière dont il devrait être représenté, au lieu d’ouvrir une nouvelle perspective sur l’histoire. »

Les institutions doivent relever le défi de maintenir vivantes les conceptions de la vérité, de sensibiliser le public et de contribuer à définir les principes de bonnes pratiques dans l’utilisation de l’IA. Réglementer au rythme de l’évolution des technologies restera un défi permanent.

Les contenus générés par l’IA de groupes tels que Brat za Brata peuvent être produits à l’infini. Entre-temps, ils peuvent atteindre un point de saturation et finir par ne convaincre que les convaincus, ou simplement lasser leurs spectateurs, comme l’ont fait auparavant d’autres formes de propagande.

L’autrice est une journaliste qui couvre la politique et l’énergie slovaques pour The European Correspondent et VSquare.

Nous publions ce texte en collaboration avec Eurozine

Cet article paraît avec le soutien de la fondation ZEIT-Stiftung Ebelin und Gerd Bucerius.