La inteligencia artificial crea un sueño nacionalista sobre la realidad.
Kapitál
Rápidas, baratas, repetitivas y eficaces: las publicaciones de extrema derecha generadas por inteligencia artificial inundan internet y las redes sociales. Tras una fachada kitsch se esconden paralelismos con la propaganda nazi. La diferencia es que hoy la creación de imágenes en distintos formatos está al alcance de cualquiera y es más insidiosa, como demuestra el movimiento eslovaco Brat za Brata.
Rápidas, baratas, repetitivas y eficaces: las publicaciones de extrema derecha generadas por inteligencia artificial inundan internet y las redes sociales. Tras la fachada kitsch se esconden paralelismos con la propaganda nazi. La diferencia es que hoy la creación de imágenes en distintos formatos está al alcance de cualquiera y es más insidiosa, como demuestra el movimiento eslovaco Brat za Brata.
¿Por qué desarrollar la ideología de su movimiento político cuando puede generarla al instante mediante inteligencia artificial? La atención de la gente es breve de todos modos. Las narrativas complejas son innecesarias. Basta con apoyarse en referencias visuales estereotipadas al pasado ideológico, ¿no?
La estética generada por inteligencia artificial se vuelve inseparable de la forma globalizada de las narrativas extremistas contemporáneas que utilizan los partidos políticos de extrema derecha. Las formulaciones de los prompts para los grandes modelos lingüísticos (LLM), que crean imágenes digitales idealizadas, cambian la identidad percibida del «grupo propio» nacionalista e influyen también en la realidad. El alcance de las campañas electorales de extrema derecha inundadas de bots de IA en Rumanía y Moldavia en 2025 estableció un precedente alarmante. La inteligencia artificial también refuerza la retórica del partido alemán de extrema derecha AfD, actualmente muy exitoso.
El nacionalismo eslovaco desde abajo
Incluso los pequeños grupos nacionalistas participan activamente en la construcción de su identidad idealizada. Contribuyen a la avalancha de imágenes generadas por IA para reforzar el sentimiento de pertenencia de sus simpatizantes. Sus imágenes son, por un lado, muy generales, pero también recurren a referencias históricas locales.
El club motero prorruso eslovaco Brat za Brata, por ejemplo, comparte habitualmente en Facebook imágenes creadas por IA. En ellas se ven jóvenes hombres y mujeres blancos y rubios con trajes tradicionales, una hermandad eslava «medieval» y animales salvajes antropomorfizados que representan a Rusia, Eslovaquia y Chequia y permanecen hombro con hombro. Las imágenes suelen situarse en distintos escenarios de naturaleza salvaje y estar iluminadas dramáticamente para producir un efecto heroico. La estética propagandística actual es una mezcla de elementos con varias capas: representaciones genéricas de la naturaleza y personas estilizadas se encuentran con simbología nacionalista en entornos fantásticos que recuerdan a películas CGI para toda la familia. Los estereotipos históricos no han desaparecido. El contenido nuevo se basa intensamente en ellos y la IA simplemente facilita su creación rápida y repetida.
Las fotografías reales de Brat za Brata muestran, en cambio, grupos de hombres de mediana edad que posan juntos en un entorno urbano con chaquetas bomber negras y lemas en alfabeto cirílico. Lo único que tienen en común ambos conjuntos de imágenes es la bandera rusa en manos de los motoristas.
Brat za Brata afirma ser un grupo apolítico y organiza actos conmemorativos dedicados al pasado soviético. Sin embargo, desde el comienzo de la invasión a gran escala de Ucrania en 2022, utiliza su plataforma en línea para apoyar activamente la agenda prorrusa. El líder del movimiento, Matúš Alexa se reunió con Serguéi Naryshkin, jefe del SVR, el Servicio de Inteligencia Exterior ruso. Sus miembros participan regularmente en actos en la embajada rusa en Bratislava y se jactan de su relación con el exembajador Igor Bratčikov. En marzo de 2025, el grupo entregó al presidente eslovaco una polémica petición que solicitaba la отменación de las sanciones contra Rusia.
Soft power del oso animado
Las representaciones de la identidad eslava «real» de Brat za Brata están impregnadas de una atmósfera aparentemente inocente y amable. Sin embargo, encajan en una ola de otras imágenes de extrema derecha generadas por IA que promueven un nativismo estricto. Los medios estatales rusos, que adoran la propaganda generada por IA, atacan regularmente la legitimidad de las instituciones democráticas internacionales, especialmente en relación con la adhesión de Ucrania a la UE. En una serie de imágenes provocadoras que publicó RIA Novosti, ratas con ojos rojos demoníacos y colmillos afilados se apiñan en una caja con la inscripción «OTAN». Otras, con la bandera ucraniana, siguen al flautista de Hamelín o lideran una revuelta campesina bajo un arco de estrellas de la UE.
Aunque ninguna publicación individual en las redes sociales tenga necesariamente capacidad para cambiar la opinión pública, juntas pueden ser una herramienta ideológica muy eficaz. El verdadero potencial de las imágenes generadas por IA reside en que permiten la radicalización y polarización gradual de la identidad y la creación de mitos. «Si no construyes una gran narrativa, es decir, si solo dices algo aquí y algo allá, pero nunca permites que se forme la imagen completa y peligrosa», entonces es «difícil aplicar las leyes que normalmente tenemos en Europa contra los discursos de odio…, porque todo queda únicamente sugerido», afirma el filósofo del lenguaje Tomáš Koblížek.
Por eso también generan controversia los contenidos que no promueven abiertamente la narrativa prorrusa. La popular serie infantil Másha y el oso de Netflix, por ejemplo, se enfrentó recientemente a rechazo en Ucrania y Gran Bretaña porque compara a su oso, el «gigante bonachón», con Rusia.
Abrir el espacio informativo a un amplio espectro de narrativas prorrusas puede ser un ejercicio de soft power. Al evitar opiniones exclusivamente políticas y polarizadoras, el soft power complementa la diplomacia tradicional y se comunica a través de los canales de la sociedad civil.
Algunas imágenes propagandísticas son deliberadamente no confrontativas, ya se trate del oso de una serie infantil de dibujos animados o de las publicaciones de Brat za Brata en Facebook «con aire disneyano». Las representaciones no ofensivas se difunden sin obstáculos. La extensa producción de contenido de extrema derecha generado por IA que satura el entorno digital se está convirtiendo cada vez más en parte de la corriente dominante. El uso de esta simbología extremista es condenado y en algunos países incluso es ilegal, pero el contenido recién creado que parte de un trasfondo ideológico se percibe como moderado si no representa directamente la violencia. Los grupos nacionalistas y los partidos políticos esconden significados racistas, homófobos y patriarcales en narrativas visuales suavizadas. De cara al exterior parecen normativos y eluden las restricciones de las plataformas digitales.
Cuando la integridad de la realidad política se descompone poco a poco, empezando por pequeñas comunidades y canales aparentemente inocentes, se abre el camino a tácticas similares que, sin supervisión, pueden influir también en el proceso electoral. Los actores políticos utilizan la IA no solo para crear contenido, sino también para recopilar datos con los que elaboran perfiles psicológicos detallados de los votantes para campañas altamente personalizadas. Las operaciones encubiertas que producen grandes cantidades de contenido generado por IA también permiten a los creadores con motivaciones políticas descubrir qué temas y narrativas funcionan mejor. La difusión ocasional del miedo se considera parte del juego, especialmente antes de las elecciones, para recordar a todos quién es supuestamente el enemigo número uno. Sin embargo, la sátira y el uso del humor también resultan especialmente eficaces.
¿Qué tan divertidos son los deepfakes?
Las caricaturas son muy destacadas en la IA generativa porque permiten crear infinitas variaciones de personas situadas en escenarios imaginarios. La creación de deepfakes, por ejemplo a partir de imágenes de los rostros de políticos reales, ha suscitado un debate sobre los límites éticos de esta manipulación visual.
Durante la moratoria electoral de 2023, es decir, el periodo establecido por ley antes de las elecciones en el que no se puede hacer campaña, internet sufrió en Eslovaquia un escándalo de deepfake. Una grabación que falsificaba una llamada telefónica entre Michal Šimečka, presidente del partido Eslovaquia Progresista, y la periodista Monika Tódová, se difundió inicialmente a través de Telegram. Lo que hace unos años resultaba sorprendente hoy es una parte habitual del ecosistema de las redes sociales. Además, recientemente se hizo viral un vídeo deepfake de políticos de la coalición actual y un oligarca que supuestamente están en prisión. Lo creó un usuario de Instagram y también se difundió porque lo compartieron políticos de la oposición.
Los políticos eslovacos tienden a ridiculizar a sus oponentes. Sin embargo, tras estos casos y la nueva legislación de la UE, que entró en vigor a principios de agosto de 2026, se han lanzado a la lucha contra los vídeos deepfake. Está sobre la mesa una prohibición total y penas que van desde una multa hasta dos años de prisión. Mientras tanto, los expertos han expresado su preocupación por la atribución de responsabilidades. Se preguntan si la mayor culpa recae en quienes introducen los prompts en la IA o en los propios modelos, y también advierten de que encontrar al verdadero creador de contenido dañino es muy difícil. En algunos casos está claro quién publicó la imagen, por ejemplo en la página de Facebook de Brat za Brata. Sin embargo, muchas cuentas son anónimas y el contenido generado por IA suele difundirse a través de redes de bots, lo que dispersa la culpa un grado más. En Europa, el contenido difundido en grandes plataformas en línea está regulado por la Ley de Servicios Digitales (DSA). Sin embargo, su aplicación es en gran medida reactiva y se centra más en la responsabilidad de las plataformas de redes sociales que en regular las herramientas de IA utilizadas para crear contenido engañoso.
La legislación propuesta para proteger la identidad digital puede tener como objetivo proteger a las personas del uso indebido de su rostro en contenidos deepfake, pero solo aborda una parte del problema. En primer lugar, no aborda en absoluto la avalancha de imágenes generadas por IA en todo el espectro político. Tampoco trata el llamado desmentido plausible, mediante el cual las personas evitan la responsabilidad por comportamientos ofensivos: «Si alguien te acusa, por ejemplo, de racismo u homofobia, puedes afirmar simplemente que era una broma», explica Koblížek. Tampoco se pregunta si la IA generativa sería igual de eficaz si no existieran los prejuicios en los que se apoyan sus usuarios.
Revitalización del modernismo reaccionario
«Si observas cómo el semanario sensacionalista alemán Der Stürmer representaba a los judíos en los años treinta, es muy parecido a cómo la AfD representa hoy a los migrantes mediante imágenes generadas por IA», afirma el investigador de iconografía política Jacopo Galimberti. Las imágenes nazis de familias arias idealizadas pueden compararse con las que crea Brat za Brata. La estereotipación es una herramienta nacionalista habitual, especialmente eficaz en forma visual porque exagera las diferencias entre «el ideal» y «el otro».
Gran parte de la propaganda nazi se apoyaba en representaciones figurativas de temas como la familia tradicional. Utilizaba imágenes fácilmente reconocibles y sin complejidad visual, pero rebosantes de orgullo cívico. Las máquinas también eran glorificadas. El entusiasmo nazi por el progreso tecnológico pretendía detener el supuesto declive de la cultura occidental y convocaba a una especie de despertar espiritual. Después de la guerra, Jeffrey Herf llamó a esta visión «modernismo reaccionario». Era un movimiento dispuesto, paradójicamente, a utilizar el desarrollo tecnológico con el propósito de regresar a los mitos e ideas nacionalistas tradicionales.
El desarrollo reciente de las tecnologías digitales, incluidas las herramientas de IA y su uso, presenta paralelismos con el modernismo reaccionario del siglo XX. El «tecnofascismo» designa una ideología de expansión tecnológica por encima de la infraestructura democrática del Estado, que otorga a las grandes empresas tecnológicas funciones decisorias en el gobierno bajo el liderazgo de figuras como Peter Thiel y Elon Musk. La estética de los vehículos Tesla Cybertruck y de las trad wives (esposas tradicionales) se aproxima inquietantemente a la obsesión del régimen nazi por la tecnología militar y las familias racialmente puras.
Sin embargo, ha cambiado el aspecto participativo de la IA generativa, que convierte a cada consumidor en creador de contenido. La propaganda nazi se organizaba para las masas, no por las masas. Joseph Goebbels veía en el cine el principal medio para difundir la ideología nacionalsocialista y utilizaba su carácter entretenido para desarrollar la propaganda de guerra. Las películas de ese periodo, como las comedias populares, aparentemente contaban historias apolíticas, pero mostraban en ellas políticas racistas. La influencia del cine siguió siendo tan crucial para el régimen que, incluso varios meses antes de la capitulación de Alemania, la gente seguía siendo «reclutada» como figurante para las últimas producciones nacionalsocialistas.
La IA generativa actual va un paso más allá que la participación de civiles como figurantes en la gran pantalla. Ofrece a los consumidores una participación plena y personalización en la creación de contenidos, y les da control sobre sus visualizaciones en la pequeña pantalla. Como la creación es gratuita, las imágenes generadas por IA alimentan formas populares de propaganda. El contenido provocador puede ahora hacerse viral con ayuda de redes automatizadas de bots que refuerzan las publicaciones en los feeds de los usuarios y las enmascaran como clickbait. Los miembros de Brat za Brata de Revúca, una ciudad de 10 000 habitantes en el centro de Eslovaquia, no necesitan productor ni público local. Con unos pocos clics pueden visualizar todas sus ideas sobre la identidad y las estructuras de poder, y transmitirlas a una red de usuarios dispuestos a consumir mensajes nacionalistas.
La realidad «enshittificada» del realismo de plataformas
El contenido generado por IA en línea es relativamente nuevo, pero ya está extendido. Se crea con una paleta clara y colorida, de carácter visual reconocible, y ya se ha ganado un término científico: «realismo de plataformas». El concepto fue introducido por Jacob Birken y desarrollado posteriormente por Roland Meyer. Designa rasgos de la IA generativa como la legibilidad, la verosimilitud y una relación estructuralmente nostálgica con los medios del pasado. Meyer subraya que el propio origen de los productos de la IA generativa ya los separa de la realidad tal como la conocemos, empezando por la manera en que los LLM procesan los prompts introducidos. Meyer explica: «A pesar de la popularidad del término “ingeniería de prompts”, su función no es ejecutar un programa preciso, sino establecer parámetros difusos que estrechan los resultados posibles y orientan el modelo hacia un área concreta dentro de un espacio estadístico de posibilidades aparentemente infinito». Al final, el usuario tiene que intentarlo varias veces hasta obtener una imagen que le guste. Es, en esencia, un proceso de desperdicio, tanto desde el punto de vista de los recursos como porque inunda el espacio digital de basura visual, nostalgia y clickbait.
Al intentar analizar esta nueva realidad, los investigadores parten de numerosos campos, desde la filosofía y la sociología hasta los estudios de procesamiento y sistemas de información. Se apoyan en el concepto de simulacros e hiperrealidad de Jean Baudrillard. Su teoría describe cómo las representaciones pueden percibirse como más reales que la propia realidad. Para ilustrarlo utiliza Disneylandia y muestra cómo la hiperrealidad sustituye a la realidad más allá de los límites del parque de atracciones. Baudrillard sostiene que ya hemos superado ese punto: el «mundo real» está hoy lleno de simulacros, por lo que resulta casi imposible encontrar representaciones todavía «reales».
El simulacro de un nuevo nivel es una realidad generada autónomamente, aproximada a partir de nuestros archivos de conocimiento. La creación de arte o, en este caso, de propaganda, que antes requería imaginación humana, se ha convertido en una serie reducida de prompts para modelos de IA. Y las representaciones del mundo real que nos rodea han sido sustituidas por imágenes completamente artificiales.
De acuerdo con la teoría de los medios del filósofo Marshall McLuhan, según la cual la tecnología es una «extensión de la conciencia», parece que la IA proporciona a los miembros de Brat za Brata la realidad de sus sueños. Las imágenes generadas por IA pueden incluso modificar su autopercepción, suponiendo que estas elecciones estéticas conformen su percepción de la realidad. Los filósofos Philippe Lacoue-Labarthe y Jean-Luc Nancy escribieron en su ensayo El mito nazi, de 1990, que «el poder mítico es el poder del sueño, de la proyección de una imagen con la que uno se identifica». Las herramientas para representar y comunicar la identidad han cambiado drásticamente, pero el viejo mito de la unidad eslava perdura y, gracias a grupos como Brat za Brata, se exagera infinitamente. Sin embargo, la creación de imágenes con posibilidades aparentemente infinitas también entraña importantes escollos.
«El aprendizaje automático funciona sobre la base de la correlación y la analogía, de una manera más cercana a la alquimia que a una ciencia basada en la causa y el efecto», afirma la artista de medios digitales Hito Steyerl. «Existe una cercanía entre el pensamiento mágico y los elementos del aprendizaje automático. Sin embargo, las grandes corporaciones promueven evidentemente esta atmósfera mágica solo para vender sus productos. No tienen nada de mágicas; más bien son las llamadas “enshittificadoras”, es decir, convierten todo en basura».
Contaminación estratégica de los grandes modelos lingüísticos
Los LLM aprenden de los archivos virtuales que les proporcionamos y en los que domina Occidente. Cuando se reconocen los patrones, pueden reproducirse masivamente en infinitas variaciones. Por tanto, la información predominante está distorsionada.
«Cuando reflexionas sobre la cuestión de la responsabilidad, a menudo surge la tendencia a desplazar la atención hacia las propias herramientas de IA. Hablamos de lo que nos ha aportado la IA, de si niega o no el Holocausto. Pero, en realidad, la responsabilidad recae en los creadores del contenido concreto o en los proveedores del modelo de IA, y estas responsabilidades pueden diferir», afirma Koblížek.
La tecnología se desarrolla más rápido que la regulación. El ritmo y la complejidad del desarrollo de los LLM han alcanzado un nivel en el que no es posible seguir el ritmo para determinar si los modelos han sido entrenados deliberadamente para difundir cierta retórica o si las personas responsables simplemente fracasaron a la hora de impedir esas distorsiones. El espacio digital es compartido por usuarios comunes y sitios web falsos que producen masivamente contenido cuyo público objetivo son otros bots destinados a la futura creación de contenido. Y, como señala Koblížek, los grupos de extrema derecha desean que su material pase a formar parte del entorno de los LLM: «Los grupos extremistas trabajan activamente para que este contenido esté disponible en línea, aunque no consiga muchas visitas, simplemente para que esté allí como posible fuente de entrenamiento de la IA».
Por la manera en que funciona, la IA generativa también tiende a reforzar las imágenes sexistas y racistas que ya existen en los archivos virtuales que sirven de fuentes a los LLM y que buscan los actores de extrema derecha. «Permite a la derecha evocar un pasado nostálgico y atemporal que nunca existió fuera de las imágenes utilizadas para entrenar el software», afirma Meyer. El mecanismo recíproco de oferta y demanda funciona. Añade un formato fácil de compartir en línea y la máquina propagandística está lista.
En algunos casos vemos que también políticos con otras posiciones políticas se suben a las tendencias de las redes sociales y generan su propio contenido para ridiculizar a sus oponentes. «Los liberales, progresistas y izquierdistas, en cambio, se han mostrado en general reservados a la hora de utilizar públicamente la IA, no solo por las distorsiones ampliamente conocidas de los modelos, sino también por la explotación masiva del trabajo y la creatividad humanas, así como de los recursos naturales, asociada al entrenamiento de los modelos de IA. Para la derecha, adoptar una estética reconocible de IA o “slop” también es una forma de provocar y trolear a sus oponentes», añade Meyer.
Pronto quizá debatamos no solo sobre la generación de nuevas imágenes, sino también sobre la protección de la integridad del pasado, que puede cambiarse fácilmente de manera orwelliana. El Gobierno de Estados Unidos ya ha comenzado: está eliminando de las páginas web de su ejército imágenes de mujeres, personas LGBTQIA+ y personas de otras etnias. Meyer advierte del «olvido digital». Dicho de otro modo, no deberíamos estar tan seguros de la «disponibilidad total del pasado». «Esto no solo genera una desconfianza omnipresente hacia cualquier prueba visual, sino también expectativas engañosas sobre cómo deberían ser los documentos históricos», afirma. Cuando eliminamos los originales de nuestros archivos, pueden quedar únicamente como sombras en el material de entrenamiento de los LLM.
En ocasiones, los museos y las instituciones públicas utilizan la IA generativa para rellenar lagunas históricas y revivir el pasado. Según Meyer, «estos usos especulativos suelen ser engañosos. Tienden a reproducir los clichés existentes sobre el pasado y sobre cómo debería representarse, en lugar de abrir una nueva perspectiva sobre la historia».
Las instituciones se enfrentan a la tarea de mantener vivas las ideas sobre la verdad, desarrollar la conciencia pública y ayudar a definir los principios de buenas prácticas en el uso de la IA. Regular al ritmo al que evolucionan las tecnologías será un desafío permanente.
El contenido generado por IA de grupos como Brat za Brata puede producirse indefinidamente. Mientras tanto, puede alcanzar un punto de saturación y terminar convenciendo únicamente a los ya convencidos, o simplemente cansar a sus espectadores, como ocurrió antes con otras formas de propaganda.
Publicamos este texto en colaboración con Eurozine
Este artículo se publica con el apoyo de la fundación ZEIT-Stiftung Ebelin und Gerd Bucerius.