Націоналістичну мрію про реальність створює штучний інтелект

Швидкі, дешеві, повторювані й ефективні: ультраправі дописи, згенеровані штучним інтелектом, заповнюють інтернет і соціальні мережі. За кітчевим фасадом приховуються паралелі з нацистською пропагандою. Різниця в тому, що створення зображень у різних форматах сьогодні доступне кожному й підступніше, ніж це демонструє словацький рух Brat za Brata.

Навіщо розвивати ідеологію свого політичного руху, якщо її можна миттєво згенерувати за допомогою штучного інтелекту? Увага людей і так нетривала. Складні наративи непотрібні. Достатньо ж спиратися на стереотипні візуальні посилання на ідеологічне минуле, чи не так?

Естетика, згенерована штучним інтелектом, стає невіддільною від глобалізованого вигляду сучасних екстремістських наративів, які використовують ультраправі політичні партії. Формулювання в промптах для великих мовних моделей (LLM), що створюють ідеалізовані цифрові образи, змінюють сприйману ідентичність націоналістичної «власної групи» й впливають також на реальність. Масштаб ультраправих виборчих кампаній, заповнених ШІ-ботами в Румунії та Молдові у 2025 році, створив тривожний прецедент. Штучний інтелект також посилює риторику німецької ультраправої партії AfD, яка нині має великий успіх.

Словацький націоналізм знизу

Навіть невеликі націоналістичні групи активно формують свою ідеалізовану ідентичність. Вони долучаються до потоку зображень, згенерованих ШІ, щоб посилити почуття приналежності своїх прихильників. Їхні зображення, з одного боку, також дуже загальні, але водночас звертаються до місцевих історичних посилань.

Словацький проросійський мотоциклетний клуб Brat za Brata, наприклад, регулярно ділиться у Facebook зображеннями, створеними ШІ. На них можна побачити молодих білих білявих чоловіків і жінок у традиційних народних костюмах, м’язисте «середньовічне» слов’янське братство та олюднених диких тварин, які уособлюють Росію, Словаччину й Чехію та стоять пліч-о-пліч. Зображення часто розміщені в різноманітних ландшафтах дикої природи й драматично освітлені для героїчного ефекту. Сучасна пропагандистська естетика є сумішшю елементів із кількома шарами: загальні зображення природи й стилізовані люди поєднуються з націоналістичною символікою у фентезійних середовищах, що нагадують CGI-фільми для всієї родини. Історичні стереотипи не зникли. Новий контент значною мірою на них спирається, а ШІ лише полегшує їхнє швидке й повторюване створення.

Натомість справжні фотографії Brat za Brata показують групи чоловіків середнього віку, які разом позують у міському середовищі в чорних бомберах із написами кирилицею. Єдине, що об’єднує обидва набори зображень, — російський прапор у руках мотоциклістів.

Brat za Brata стверджує, що є аполітичною групою й організовує пам’ятні заходи, присвячені радянському минулому. Однак від початку повномасштабного вторгнення в Україну у 2022 році рух використовує свою онлайн-платформу для активної підтримки проросійського порядку денного. Керівник руху Матуш Алекса зустрічався із Сергієм Наришкіним, головою СЗР, російської Служби зовнішньої розвідки. Члени регулярно беруть участь у заходах у російському посольстві в Братиславі й хваляться зв’язками з колишнім послом Ігорем Братчиковим. У березні 2025 року група передала словацькому президентові суперечливу петицію з вимогою скасувати санкції проти Росії.

Soft power анімованого ведмедя

Зображення «справжньої» слов’янської ідентичності від Brat za Brata просякнуті на перший погляд невинною, приязною атмосферою. Однак вони вписуються в хвилю інших ультраправих зображень, згенерованих ШІ, які пропагують суворий нативізм. Російські державні медіа, що обожнюють пропаганду, згенеровану ШІ, регулярно атакують легітимність міжнародних демократичних інституцій, особливо у зв’язку з членством України в ЄС. У серії провокаційних зображень, які опублікувала РИА Новости, щури з демонічними червоними очима й вишкіреними іклами товпляться в коробці з написом «НАТО». Інші, з українським прапором, ідуть за щуроловом із Гамельна або ведуть селянське повстання під аркою із зірок ЄС.

Хоча жоден окремий допис у соціальних мережах, можливо, не здатен змінити громадську думку, разом вони можуть бути дуже ефективним ідеологічним інструментом. Справжній потенціал зображень, згенерованих ШІ, полягає в тому, що вони дають змогу поступово радикалізувати й поляризувати ідентичність та створювати міфи. «Якщо ви не вибудовуєте великий наратив, тобто говорите лише щось тут і щось там, але ніколи не дозволяєте сформуватися цілісній небезпечній картині», тоді «важко застосувати закони, які ми зазвичай маємо в Європі проти мови ворожнечі…, тому що все залишається лише натяком», — говорить філософ мови Томаш Кобліжек.

Тому суперечки викликає і контент, який не цілком відкрито просуває проросійський наратив. Широко доступний дитячий серіал Маша і Ведмідь на Netflix, наприклад, нещодавно зіткнувся з опором в Україні та Великій Британії, оскільки порівнює свого ведмедя, «добродушного велетня», з Росією.

Відкриття інформаційного простору для широкого спектра проросійських наративів може бути вправою в soft power. Уникаючи суто політичних і поляризувальних поглядів, soft power доповнює традиційну дипломатію та комунікує через канали громадянського суспільства.

Деякі пропагандистські зображення навмисно неконфронтаційні — чи то ведмідь із дитячої анімаційної казки, чи то «витримані в дусі Disney» дописи Brat za Brata у Facebook. Адже нешкідливі зображення поширюються без перешкод. Масштабне виробництво ультраправого контенту, згенерованого ШІ, яке насичує онлайн-середовище, дедалі більше стає частиною мейнстриму. Використання цієї екстремістської символіки засуджується, а в деяких країнах навіть є незаконним, але новостворений контент, що походить з ідеологічного підґрунтя, сприймається як поміркований, якщо безпосередньо не зображує насильства. Націоналістичні групи й політичні партії приховують расистські, гомофобні та патріархальні смисли в пом’якшених візуальних наративах. Зовні вони здаються нормативними й обходять обмеження цифрових платформ.

Коли цілісність політичної реальності розкладається шматок за шматком, починаючи з малих спільнот і на перший погляд невинних каналів, відкривається шлях подібним тактикам, які без нагляду можуть впливати й на виборчий процес. Політичні діячі використовують ШІ не лише для створення контенту, а й для збирання даних, на основі яких формують детальні психологічні профілі виборців для високоперсоналізованої кампанії. Таємні операції, що продукують великі обсяги контенту, згенерованого ШІ, також дають політично вмотивованим творцям змогу з’ясувати, які теми й наративи працюють найкраще. Періодичне поширення страху вважається частиною гри, особливо перед виборами, аби всім нагадати, хто нібито є ворогом номер один. Однак особливо ефективними виявляються також сатира й гумор.

Наскільки кумедні дипфейки?

Карикатури в генеративному ШІ дуже виразні, оскільки він дає змогу створювати нескінченні варіації людей, поміщених у уявні сценарії. Створення дипфейків, наприклад на основі зображень облич справжніх політиків, спричинило дискусію про етичні межі таких візуальних маніпуляцій.

Під час виборчого мораторію 2023 року, тобто визначеного законом періоду перед виборами, коли заборонено вести кампанію, інтернет у Словаччині сколихнув скандал із дипфейком. Запис, який підробляв телефонну розмову між Міхалом Шимечкою, головою партії «Прогресивна Словаччина», та журналісткою Монікою Тодово́ю, спочатку поширювався через Telegram. Те, що кілька років тому дивувало, сьогодні є звичайною частиною екосистеми соціальних мереж. Нещодавно вірусним також стало дипфейк-відео нинішніх коаліційних політиків та олігарха, які у відео нібито перебувають у в’язниці. Його створив користувач Instagram, і воно поширилося також тому, що ним ділилися опозиційні політики.

Словацькі політики схильні висміювати своїх опонентів. Після цих випадків і після нового законодавства ЄС, що набуло чинності на початку серпня 2026 року, вони взялися боротися з дипфейк-відео. На порядку денному — повна заборона й покарання від штрафу до позбавлення волі строком до двох років. Тим часом експерти висловили занепокоєння щодо покладання відповідальності. Вони питають, хто несе найбільшу провину: ті, хто вводить промпти для ШІ, чи самі моделі, — і також наголошують, що знайти справжнього творця шкідливого контенту дуже складно. У деяких випадках зрозуміло, хто опублікував зображення, наприклад на сторінці Brat za Brata у Facebook. Однак багато акаунтів анонімні, а контент, згенерований ШІ, часто поширюється через мережі ботів, що відсуває відповідальність ще на один рівень. У Європі за контент, поширюваний на великих онлайн-платформах, відповідає Акт про цифрові послуги (DSA). Однак його застосування здебільшого реактивне й зосереджене радше на відповідальності платформ соціальних медіа, ніж на регулюванні інструментів ШІ, які використовують для створення оманливого контенту. 

Запропоноване законодавство для захисту цифрової ідентичності може мати на меті захист людей від зловживання їхніми обличчями в дипфейк-контенті, однак воно розв’язує лише частину проблеми. Насамперед воно взагалі не стосується потоку зображень, згенерованих ШІ, по всьому політичному спектру. Воно також не розглядає так зване правдоподібне заперечення, за допомогою якого люди уникають відповідальності за образливу поведінку: «Якщо хтось звинуватить вас, наприклад, у расизмі чи гомофобії, ви можете просто сказати, що це був жарт», — говорить Кобліжек. І не ставить питання, чи був би генеративний ШІ так само ефективним, якби не існувало упереджень, на які спираються користувачі ШІ.

Відродження реакційного модернізму

«Якщо подивитися, як німецький щотижневий таблоїд Der Stürmer зображував євреїв у 30-х роках, це дуже схоже на те, як сьогодні AfD зображує мігрантів за допомогою зображень, згенерованих ШІ», — говорить дослідник політичної іконографії Якопо Ґалімберті. Нацистські зображення ідеалізованих арійських родин можна порівняти із зображеннями, які створює Brat za Brata. Стереотипізація є поширеним націоналістичним інструментом, особливо ефективним у візуальній формі, оскільки перебільшує відмінності між «ідеалом» і «іншим».

Значна частина нацистської пропаганди спиралася на фігуративні зображення таких тем, як традиційна сім’я. Вона використовувала легко впізнавані образи без візуальної складності, але буквально переповнені громадянською гордістю. Так само прославлялися машини. Захоплення нацистів технологічним прогресом було спрямоване на припинення нібито занепаду західної культури й заклик до своєрідного духовного пробудження. Після війни Джеффрі Герф назвав це бачення «реакційним модернізмом». Це був рух, готовий парадоксальним чином використовувати технологічний розвиток, прагнучи повернутися до традиційних націоналістичних міфів та ідей.

Недавній розвиток цифрових технологій, зокрема інструментів ШІ та їх використання, демонструє паралелі з реакційним модернізмом XX століття. «Технофашизм» означає ідеологію технологічної експансії над демократичною інфраструктурою держави, яка передає великим технологічним компаніям функції ухвалення рішень в уряді під керівництвом таких постатей, як Пітер Тіль та Ілон Маск. Естетика автомобілів Tesla Cybertruck і trad wives (традиційних дружин) тривожно наближається до одержимості нацистського режиму військовою технікою та расово чистими родинами.

Однак змінився партисипативний аспект генеративного ШІ, який перетворює кожного споживача на творця контенту. Нацистська пропаганда була організована для мас, а не масами. Йозеф Ґеббельс вважав кіно головним медіа для поширення націонал-соціалістичної ідеології, а його розважальний характер використовував для розвитку воєнної пропаганди. Фільми того періоду, наприклад популярні комедії, на перший погляд розповідали аполітичні історії, але зображували в них расистську політику. Вплив кіно залишався для режиму настільки ключовим, що навіть за кілька місяців до капітуляції Німеччини людей усе ще «вербували» як статистів до останніх націонал-соціалістичних постановок.

Сьогоднішній генеративний ШІ робить крок далі, ніж залучення цивільних як статистів на великому екрані. Він пропонує споживачам повну участь і можливість налаштування під час створення контенту та дає їм контроль над власними візуалізаціями на маленькому екрані. Оскільки створення є безкоштовним, зображення, згенеровані ШІ, живлять народні форми пропаганди. Провокаційний контент тепер може стати вірусним за допомогою автоматизованих мереж ботів, які посилюють дописи у стрічках користувачів і маскують їх під клікбейт. Членам Brat za Brata з Ревуці, міста з 10 000 мешканців у центральній Словаччині, не потрібні ні продюсер, ні місцева аудиторія. Кількома кліками вони можуть візуалізувати всі свої уявлення про ідентичність і структури влади та донести їх до мережі користувачів, які охоче споживають націоналістичні послання.

«Еншітифікована» реальність платформного реалізму

Онлайн-контент, згенерований ШІ, відносно новий, але вже поширений. Він створюється у чіткій і яскравій палітрі з впізнаваним візуальним характером і вже отримав науковий термін: «платформний реалізм». Це поняття запровадив Якоб Біркен, а надалі розвинув Роланд Маєр. Воно позначає такі риси генеративного ШІ, як читабельність, правдоподібність і структурно ностальгійний зв’язок із минулими медіа. Маєр наголошує, що вже саме походження продуктів генеративного ШІ відокремлює їх від реальності, якою ми її знаємо, — уже тим, як LLM обробляють введені промпти. Маєр пояснює: «Попри популярність поняття “prompt engineering”, їхня функція полягає не у виконанні точної програми, а в нечітких параметрах, які звужують можливі результати й спрямовують модель до певної області у нібито нескінченному статистичному просторі можливостей». Зрештою користувач мусить пробувати кілька разів, доки отримає зображення, яке йому подобається. За своєю суттю це процес марнотратства — і з погляду ресурсів, і тому, що він наповнює онлайн-простір візуальним сміттям, ностальгією та клікбейтом.

Намагаючись проаналізувати цю нову реальність, дослідники спираються на безліч галузей — від філософії та соціології до досліджень обробки та інформаційних систем. Вони звертаються до концепції симулякрів і гіперреальності Жана Бодріяра. Його теорія описує, як зображення можуть сприйматися реальнішими за саму реальність. Для ілюстрації він використовує Disneyland і показує, як гіперреальність замінює реальність за межами парку розваг. Бодріяр стверджує, що ми вже подолали цю межу: «реальний світ» сьогодні сповнений симулякрів, тож знайти ще якісь «справжні» зображення майже неможливо. 

Симулякр нового рівня — це автономно згенерована реальність, наближена з наших архівів знань. Створення мистецтва або, у цьому випадку, створення пропаганди, яке раніше вимагало людської уяви, перетворилося на скорочену серію промптів для моделей ШІ. А представлення реального світу навколо нас замінили цілком штучні образи.

Відповідно до теорії медіа філософа Маршалла Маклюена, згідно з якою технологія є «розширенням свідомості», здається, що ШІ надає членам Brat za Brata їхню омріяну реальність. Зображення, згенеровані ШІ, можуть навіть змінювати їхнє самосприйняття, якщо припустити, що ці естетичні вибори формують їхнє сприйняття реальності. Філософи Філіп Лаку-Лабарт і Жан-Люк Нансі у своєму есеї Нацистський міф 1990 року пишуть, що «міфічна влада є владою сну, проєкції образу, з яким людина себе ототожнює». Інструменти зображення й комунікації ідентичності кардинально змінилися, але старий міф про слов’янську єдність зберігається і завдяки таким групам, як Brat za Brata, нескінченно перебільшується. Однак створення зображень із нібито безмежними можливостями приносить і значні пастки.

«Машинне навчання працює на основі кореляції та аналогії, у спосіб, ближчий до алхімії, ніж до науки, заснованої на причині й наслідку», — говорить цифрова медіахудожниця Гіто Штайєрль. «Між магічним мисленням і елементами машинного навчання існує близькість. Однак цю магічну атмосферу великі корпорації, очевидно, просувають лише для того, щоб продавати свої продукти. Вони зовсім не магічні, радше вони так звані еншітифікатори, тобто перетворюють усе на мотлох».

Стратегічне забруднення великих мовних моделей

LLM навчаються на віртуальних архівах, які ми їм надаємо і в яких домінує Захід. Коли закономірності розпізнано, їх можна масово відтворювати в нескінченних варіаціях. Тому переважна інформація є викривленою.

«Коли ви замислюєтеся над питанням відповідальності, часто виникає тенденція перенести увагу на самі інструменти ШІ. Ми говоримо про те, що приніс нам ШІ, чи заперечує він Голокост, чи ні. Однак насправді відповідальність несуть творці конкретного контенту або постачальники моделі ШІ, і ці види відповідальності можуть відрізнятися», — говорить Кобліжек.

Технологія розвивається швидше, ніж регулювання. Темп і складність розвитку LLM перебувають на такому рівні, що неможливо встигати відстежувати, чи моделі цілеспрямовано навчають поширювати певну риторику, чи відповідальні особи просто не змогли запобігти цим викривленням. Онлайн-простір спільно використовують звичайні користувачі й фальшиві сайти  масового виробництва контенту, цільовою аудиторією якого є інші боти, що слугують для майбутнього створення контенту. І як зауважує Кобліжек, ультраправі групи прагнуть, щоб їхні матеріали стали частиною середовища LLM: «Екстремістські групи активно працюють над тим, щоб цей контент був доступний онлайн, навіть якщо він не збирає багато переглядів, просто для того, щоб бути там як потенційне джерело для навчання ШІ».

З огляду на спосіб функціонування генеративний ШІ також схильний посилювати сексистські й расистські образи, які вже існують у віртуальних архівах, що є джерелами LLM і які шукають ультраправі діячі. «Це дає правиці змогу викликати ностальгічне, позачасове минуле, яке ніколи не існувало поза зображеннями, використаними для навчання програмного забезпечення», — говорить Маєр. Взаємний механізм попиту й пропозиції працює. Додайте формат, яким легко ділитися онлайн, — і пропагандистську машину створено.

У деяких випадках ми бачимо, як політики з іншими політичними поглядами також підхоплюють тренди соціальних мереж і генерують власний контент, що висміює їхніх опонентів. «Ліберали, прогресисти й ліві, навпаки, загалом стримано використовували ШІ публічно — не лише через загальновідомі викривлення моделей, а й через масштабну експлуатацію людської праці та креативності, а також природних ресурсів, пов’язану з навчанням моделей ШІ. Тож для правиці прийняття впізнаваної естетики ШІ або “слопу” є також способом провокувати й тролити своїх опонентів», — додає Маєр.

Невдовзі, можливо, ми вестимемо дискусії не лише про генерування нових зображень, а й про захист цілісності минулого, яке легко змінити в орвеллівський спосіб. Уряд США вже почав це робити: з вебсайтів своєї армії він видаляє зображення жінок, LGBTQIA+ людей і людей іншого кольору шкіри. Маєр застерігає від «цифрового забування». Інакше кажучи, не варто бути такими впевненими в «повній доступності минулого». «Це не лише породжує повсюдну недовіру до будь-яких візуальних доказів, а й створює оманливі очікування щодо того, як мають виглядати історичні документи», — говорить він. Коли ми видаляємо оригінали з наших архівів, вони можуть залишитися лише як тіні в навчальному матеріалі LLM.

Музеї та державні установи іноді самі використовують генеративний ШІ, щоб заповнювати історичні прогалини й оживляти минуле. За словами Маєра, «таке спекулятивне використання часто вводить в оману. Воно схильне відтворювати наявні кліше про минуле та про те, як його слід зображати, замість того щоб відкривати новий погляд на історію».

Перед інституціями стоїть завдання підтримувати живими уявлення про правду, розвивати обізнаність громадськості й допомагати визначати принципи належної практики використання ШІ. Регулювання в темпі, з яким розвиваються технології, буде постійним викликом.

Контент, згенерований ШІ групами на кшталт Brat za Brata, можна виробляти нескінченно. Тим часом він може досягти точки насичення й зрештою переконувати лише вже переконаних або просто втомити своїх глядачів — так само, як раніше інші форми пропаганди.

Авторка — журналістка, яка пише про словацьку політику та енергетику для The European Correspondent і VSquare.

Публікуємо текст у співпраці з Eurozine

Ця стаття виходить за підтримки фонду ZEIT-Stiftung Ebelin und Gerd Bucerius.