Nacjonalistyczny sen o rzeczywistości tworzy sztuczna inteligencja.

Szybkie, tanie, powtarzalne i skuteczne: skrajnie prawicowe posty generowane przez sztuczną inteligencję zalewają internet i media społecznościowe. Za kiczowatą fasadą kryją się paralele z nazistowską propagandą. Różnica polega na tym, że tworzenie obrazów w różnych formatach jest dziś dostępne dla każdego i bardziej podstępne, niż pokazuje słowacki ruch Brat za Brata.

Po co rozwijać ideologię swojego ruchu politycznego, skoro można ją natychmiast wygenerować za pomocą sztucznej inteligencji? Uwaga ludzi i tak jest krótkotrwała. Złożone narracje są zbędne. Wystarczy przecież opierać się na stereotypowych wizualnych odwołaniach do ideologicznej przeszłości, prawda?

Estetyka generowana przez sztuczną inteligencję staje się nieodłącznym elementem zglobalizowanej postaci współczesnych narracji ekstremistycznych wykorzystywanych przez skrajnie prawicowe partie polityczne. Formuły w promptach dla dużych modeli językowych (LLM), które tworzą wyidealizowane cyfrowe obrazy, zmieniają postrzeganą tożsamość nacjonalistycznej „własnej grupy” i wpływają także na rzeczywistość. Skala skrajnie prawicowych kampanii wyborczych zalanych botami AI w Rumunii i Mołdawii w 2025 roku ustanowiła alarmujący precedens. Sztuczna inteligencja wzmacnia także retorykę niemieckiej skrajnie prawicowej partii AfD, obecnie bardzo skutecznej.

Słowacki nacjonalizm oddolny

Także małe grupy nacjonalistyczne aktywnie budują swoją wyidealizowaną tożsamość. Przyczyniają się do zalewu obrazów generowanych przez AI, aby wzmacniać poczucie przynależności swoich zwolenników. Ich obrazy są z jednej strony bardzo ogólne, ale sięgają również po lokalne odniesienia historyczne.

Słowacki prorosyjski klub motocyklowy Brat za Brata regularnie udostępnia na Facebooku obrazy stworzone przez AI. Widać na nich młodych białych blondwłosych mężczyzn i kobiety w tradycyjnych strojach ludowych, muskularne „średniowieczne” słowiańskie braterstwo oraz uczłowieczone dzikie zwierzęta reprezentujące Rosję, Słowację i Czechy, stojące ramię w ramię. Obrazy często osadzone są w różnych sceneriach dzikiej przyrody i dramatycznie oświetlone dla uzyskania heroicznego efektu. Współczesna estetyka propagandowa jest mieszanką elementów z kilkoma warstwami: generyczne przedstawienia przyrody i stylizowani ludzie spotykają się z nacjonalistyczną symboliką w fantastycznych sceneriach przypominających rodzinne filmy CGI. Historyczne stereotypy nie zniknęły. Nowe treści silnie się do nich odwołują, a AI jedynie ułatwia ich szybkie i powtarzalne tworzenie.

Prawdziwe fotografie Brat za Brata pokazują natomiast grupki mężczyzn w średnim wieku, którzy wspólnie pozują w miejskim otoczeniu, w czarnych kurtkach bomberkach z napisami cyrylicą. Jedynym elementem wspólnym dla obu zbiorów obrazów jest rosyjska flaga w rękach motocyklistów.

Brat za Brata twierdzi, że jest grupą apolityczną i organizuje wydarzenia upamiętniające poświęcone sowieckiej przeszłości. Od początku pełnoskalowej inwazji na Ukrainę w 2022 roku wykorzystuje jednak swoją platformę internetową do aktywnego wspierania prorosyjskiej agendy. Lider ruchu Matúš Alexa spotkał się z Siergiejem Naryszkinem, szefem SWR, rosyjskiej Służby Wywiadu Zagranicznego. Członkowie regularnie uczestniczą w wydarzeniach w rosyjskiej ambasadzie w Bratysławie i chwalą się relacją z byłym ambasadorem Igorem Bratčikovem. W marcu 2025 roku grupa przekazała słowackiemu prezydentowi kontrowersyjną petycję, w której domagano się zniesienia sankcji wobec Rosji.

Soft power animowanego niedźwiedzia

Przedstawienia „prawdziwej” słowiańskiej tożsamości autorstwa Brat za Brata przesiąknięte są pozornie niewinną, przyjazną atmosferą. Wpisują się jednak w falę innych skrajnie prawicowych obrazów generowanych przez AI, które promują ścisły natywizm. Rosyjskie media państwowe, uwielbiające propagandę generowaną przez AI, regularnie podważają legitymację międzynarodowych instytucji demokratycznych, szczególnie w związku z członkostwem Ukrainy w UE. W serii prowokacyjnych obrazów, które opublikowała RIA Novosti, szczury o demonicznych czerwonych oczach i wyszczerzonych kłach tłoczą się w pudełku z napisem „NATO”. Inne, z ukraińską flagą, podążają za szczurołapem z Hamelnu albo prowadzą chłopskie powstanie pod łukiem z gwiazd UE.

Żaden pojedynczy post w mediach społecznościowych nie musi być wprawdzie w stanie zmienić opinii publicznej, ale razem mogą stanowić bardzo skuteczne narzędzie ideologiczne. Rzeczywisty potencjał obrazów generowanych przez AI polega na tym, że umożliwiają stopniową radykalizację i polaryzację tożsamości oraz tworzenie mitów. „Jeśli nie zbudujecie wielkiej narracji, czyli powiecie tylko coś tu i coś tam, ale nigdy nie pozwolicie, aby powstał cały niebezpieczny obraz”, wtedy „trudno zastosować przepisy, które w Europie zwykle mamy przeciwko mowie nienawiści…, ponieważ wszystko pozostaje jedynie zasugerowane” – mówi filozof języka Tomáš Koblížek.

Kontrowersje wywołuje więc także treść, która nie promuje całkowicie otwarcie prorosyjskiej narracji. Szeroko dostępny serial dziecięcy Masza i niedźwiedź na Netfliksie spotkał się na przykład niedawno z oporem na Ukrainie i w Wielkiej Brytanii, ponieważ porównuje swojego niedźwiedzia, „dobrodusznego olbrzyma”, do Rosji.

Udostępnienie przestrzeni informacyjnej szerokiemu spektrum prorosyjskich narracji może być ćwiczeniem z soft power. Ponieważ soft power unika wyłącznie politycznych i polaryzujących opinii, uzupełnia tradycyjną dyplomację i komunikuje się poprzez kanały społeczeństwa obywatelskiego.

Niektóre obrazy propagandowe są celowo niekonfrontacyjne – czy chodzi o niedźwiedzia z dziecięcej kreskówki, czy o „disneyowskie” posty Brat za Brata na Facebooku. Nieobraźliwe przedstawienia rozprzestrzeniają się bowiem bez przeszkód. Rozległa produkcja skrajnie prawicowych treści generowanych przez AI, która nasyca środowisko internetowe, staje się coraz bardziej częścią mainstreamu. Używanie tej ekstremistycznej symboliki jest potępiane, a w niektórych krajach nawet nielegalne, jednak nowo tworzone treści wyrastające z ideologicznego podłoża postrzegane są jako łagodne, jeśli nie przedstawiają bezpośrednio przemocy. Grupy nacjonalistyczne i partie polityczne ukrywają rasistowskie, homofobiczne i patriarchalne znaczenia w złagodzonych narracjach wizualnych. Z zewnątrz sprawiają wrażenie normatywnych i omijają ograniczenia platform cyfrowych.

Gdy integralność politycznej rzeczywistości rozpada się kawałek po kawałku, począwszy od małych społeczności i pozornie niewinnych kanałów, otwiera się droga podobnym taktykom, które bez nadzoru mogą wpływać także na proces wyborczy. Aktorzy polityczni wykorzystują AI nie tylko do tworzenia treści, lecz także do gromadzenia danych, na podstawie których tworzą szczegółowe profile psychologiczne wyborców na potrzeby wysoce spersonalizowanej kampanii. Tajne operacje produkujące ogromne ilości treści generowanych przez AI pozwalają również twórcom kierującym się motywacją polityczną ustalić, które tematy i narracje działają najlepiej. Okazjonalne szerzenie strachu uważa się za część gry, szczególnie przed wyborami – po to, by wszystkim przypomnieć, kto rzekomo jest wrogiem numer jeden. Szczególnie skuteczne okazują się jednak również satyra i wykorzystanie humoru.

Jak zabawne są deepfake’i?

Karykatury są w generatywnej AI bardzo wyraziste, ponieważ umożliwia ona tworzenie nieskończonych wariantów ludzi umieszczonych w wyimaginowanych scenariuszach. Tworzenie deepfake’ów, na przykład na podstawie zdjęć twarzy prawdziwych polityków, wywołało dyskusję o etycznych granicach takiej wizualnej manipulacji.

Podczas moratorium wyborczego w 2023 roku, czyli określonego prawem okresu przed wyborami, w którym nie wolno prowadzić kampanii, słowacki internet został dotknięty skandalem deepfake’owym. Nagranie fałszujące rozmowę telefoniczną między Michalem Šimečką, przewodniczącym partii Progresywna Słowacja, a dziennikarką Moniką Tódovą początkowo rozprzestrzeniało się za pośrednictwem Telegrama. To, co kilka lat temu było zaskakujące, dziś jest zwyczajną częścią ekosystemu mediów społecznościowych. Niedawno wiralowe stało się także deepfake’owe wideo przedstawiające obecnych polityków koalicyjnych i oligarchę, którzy rzekomo przebywają w więzieniu. Stworzył je użytkownik Instagrama, a rozprzestrzeniło się również dlatego, że udostępnili je politycy opozycji.

Słowaccy politycy mają skłonność do wyśmiewania swoich przeciwników. Po tych przypadkach i po nowych przepisach UE, które weszły w życie na początku sierpnia 2026 roku, podjęli jednak walkę z filmami deepfake. Rozważany jest całkowity zakaz oraz kary od grzywny po karę pozbawienia wolności do dwóch lat. Eksperci wyrazili tymczasem obawy dotyczące przypisywania odpowiedzialności. Pytają, czy największą winę ponoszą ci, którzy wprowadzają prompty do AI, czy same modele, i zwracają uwagę, że znalezienie rzeczywistego twórcy szkodliwej treści jest bardzo trudne. W niektórych przypadkach jasne jest, kto opublikował obraz, na przykład na stronie Brat za Brata na Facebooku. Wiele kont jest jednak anonimowych, a treści generowane przez AI często rozprzestrzeniają się za pośrednictwem sieci botów, co przenosi winę jeszcze o jeden poziom dalej. W Europie za treści rozpowszechniane na dużych platformach internetowych odpowiada akt o usługach cyfrowych (DSA). Jego stosowanie ma jednak w większości charakter reaktywny i koncentruje się raczej na odpowiedzialności platform mediów społecznościowych niż na regulowaniu narzędzi AI wykorzystywanych do tworzenia wprowadzających w błąd treści. 

Proponowane przepisy dotyczące ochrony tożsamości cyfrowej mogą mieć na celu ochronę ludzi przed wykorzystaniem ich twarzy w treściach deepfake, rozwiązują jednak tylko część problemu. Przede wszystkim w ogóle nie zajmują się zalewem obrazów generowanych przez AI w całym spektrum politycznym. Nie odnoszą się także do tak zwanego wiarygodnego zaprzeczenia, za pomocą którego ludzie unikają odpowiedzialności za obraźliwe zachowanie: „Jeśli ktoś oskarży was na przykład o rasizm lub homofobię, możecie po prostu twierdzić, że to był żart” – mówi Koblížek. Nie stawiają też pytania, czy generatywna AI byłaby równie skuteczna, gdyby nie istniały uprzedzenia, na których polegają użytkownicy AI.

Ożywianie reakcyjnego modernizmu

„Jeśli spojrzeć na to, jak niemiecki tygodnik bulwarowy Der Stürmer przedstawiał Żydów w latach 30., jest to bardzo podobne do tego, jak AfD przedstawia dziś migrantów za pomocą obrazów generowanych przez AI” – mówi badacz ikonografii politycznej Jacopo Galimberti. Nazistowskie obrazy wyidealizowanych aryjskich rodzin można porównać z tymi tworzonymi przez Brat za Brata. Stereotypizacja jest powszechnym nacjonalistycznym narzędziem, szczególnie skutecznym w formie wizualnej, ponieważ wyolbrzymia różnice między „ideałem” a „tym drugim”.

Duża część nazistowskiej propagandy opierała się na figuratywnych przedstawieniach takich tematów jak tradycyjna rodzina. Wykorzystywała łatwo rozpoznawalne obrazy bez wizualnej złożoności, ale przepełnione dumą obywatelską. W podobny sposób wychwalano maszyny. Nazistowski entuzjazm dla postępu technologicznego miał zatrzymać rzekomy upadek zachodniej kultury i wezwać do swego rodzaju duchowego przebudzenia. Po wojnie Jeffrey Herf nazwał tę wizję „reakcyjnym modernizmem”. Był to ruch gotów paradoksalnie wykorzystywać rozwój technologiczny w dążeniu do powrotu do tradycyjnych nacjonalistycznych mitów i idei.

Niedawny rozwój technologii cyfrowych, w tym narzędzi AI i ich zastosowań, wykazuje paralele z reakcyjnym modernizmem XX wieku. „Technofaszyzm” oznacza ideologię ekspansji technologicznej ponad demokratyczną infrastrukturą państwa, która powierza wielkim firmom technologicznym zadania decyzyjne w ramach rządu kierowanego przez takie osoby jak Peter Thiel i Elon Musk. Estetyka pojazdów Tesla Cybertruck i trad wives (tradycyjnych żon) w niepokojący sposób zbliża się do obsesji nazistowskiego reżimu na punkcie techniki wojskowej i rasowo czystych rodzin.

Zmienił się jednak partycypacyjny aspekt generatywnej AI, który z każdego konsumenta czyni twórcę treści. Nazistowska propaganda była organizowana dla mas, a nie przez masy. Joseph Goebbels widział w filmie główne medium szerzenia ideologii narodowosocjalistycznej, a jego rozrywkowy charakter wykorzystywał do rozwijania propagandy wojennej. Filmy z tego okresu, na przykład popularne komedie, pozornie opowiadają apolityczne historie, ale przedstawiają w nich rasistowską politykę. Wpływ filmu pozostał dla reżimu tak kluczowy, że jeszcze kilka miesięcy przed kapitulacją Niemiec ludzi wciąż „werbowano” jako statystów do ostatnich produkcji narodowosocjalistycznych.

Dzisiejsza generatywna AI idzie o krok dalej niż angażowanie cywilów jako statystów na wielkim ekranie. Oferuje konsumentom pełny udział i możliwość dostosowywania treści oraz daje im kontrolę nad ich wizualizacjami na małym ekranie. Ponieważ tworzenie jest darmowe, obrazy generowane przez AI karmią ludowe formy propagandy. Prowokacyjne treści mogą teraz stać się wiralowe dzięki zautomatyzowanym sieciom botów, które wzmacniają posty w feedach użytkowników i maskują je jako clickbait. Członkowie Brat za Brata z Revúcej, miasta liczącego 10 tysięcy mieszkańców na środkowej Słowacji, nie potrzebują producenta ani lokalnej publiczności. Kilkoma kliknięciami potrafią zwizualizować wszystkie swoje wyobrażenia o tożsamości i strukturach władzy oraz przekazać je sieci użytkowników chętnie konsumujących nacjonalistyczne przesłania.

„Enshittyfikowana” rzeczywistość realizmu platformowego

Treści generowane przez AI są stosunkowo nowe, ale już szeroko rozpowszechnione. Tworzy się je w jasnej i kolorowej palecie, o rozpoznawalnym charakterze wizualnym, i doczekały się już naukowego terminu: „realizm platformowy”. Pojęcie wprowadził Jacob Birken, a następnie rozwinął je Roland Meyer. Oznacza ono cechy generatywnej AI, takie jak czytelność, wiarygodność i strukturalnie nostalgiczny stosunek do dawnych mediów. Meyer podkreśla, że już samo pochodzenie produktów generatywnej AI oddziela je od rzeczywistości, którą znamy, choćby przez sposób, w jaki LLM przetwarzają wprowadzane prompty. Meyer wyjaśnia: „Mimo popularności pojęcia «prompt engineering» ich funkcją nie jest wykonywanie precyzyjnego programu, lecz nieostre parametry, które zawężają możliwe wyniki i kierują model ku określonemu obszarowi w pozornie nieskończonej statystycznej przestrzeni możliwości”. Użytkownik ostatecznie musi próbować wielokrotnie, zanim uzyska obraz, który mu się podoba. W istocie jest to proces marnotrawstwa – zarówno z punktu widzenia zasobów, jak i dlatego, że zapełnia przestrzeń internetową wizualnymi odpadami, nostalgią i clickbaitem.

Próbując analizować tę nową rzeczywistość, badacze czerpią z wielu dziedzin, od filozofii i socjologii po badania nad przetwarzaniem i systemami informacyjnymi. Opierają się na koncepcji symulakrów i hiperrzeczywistości Jeana Baudrillarda. Jego teoria opisuje, jak przedstawienia mogą być postrzegane jako bardziej rzeczywiste niż sama rzeczywistość. Jako ilustracji używa Disneylandu i pokazuje, w jaki sposób hiperrzeczywistość zastępuje rzeczywistość poza granicami parku rozrywki. Baudrillard twierdzi, że jesteśmy już poza tym punktem: „prawdziwy świat” jest dziś pełen symulakrów, więc niemal niemożliwe jest znalezienie jeszcze jakichś „prawdziwych” przedstawień. 

Symulakrum nowego poziomu to autonomicznie generowana rzeczywistość, przybliżona na podstawie naszych archiwów wiedzy. Tworzenie sztuki, a w tym przypadku propagandy, które wcześniej wymagało ludzkiej wyobraźni, zmieniło się w zredukowaną serię promptów dla modeli AI. Reprezentację otaczającego nas świata rzeczywistego zastąpiły całkowicie sztuczne obrazy.

Zgodnie z teorią mediów filozofa Marshalla McLuhana, według której technologia jest „przedłużeniem świadomości”, wydaje się, że AI zapewnia członkom Brat za Brata ich wymarzoną rzeczywistość. Obrazy generowane przez AI mogą nawet modyfikować ich postrzeganie samych siebie, zakładając, że te wybory estetyczne kształtują ich postrzeganie rzeczywistości. Filozofowie Philippe Lacoue-Labarthe i Jean-Luc Nancy w eseju Nazistowski mit z 1990 roku piszą, że „władza mityczna jest władzą snu, projekcji obrazu, z którym człowiek się utożsamia”. Narzędzia przedstawiania i komunikowania tożsamości zmieniły się dramatycznie, ale stary mit słowiańskiej jedności trwa i dzięki grupom takim jak Brat za Brata jest nieustannie wyolbrzymiany. Tworzenie obrazów o pozornie nieskończonych możliwościach niesie jednak ze sobą poważne pułapki.

„Uczenie maszynowe działa na zasadzie korelacji i analogii, w sposób bliższy alchemii niż nauce opartej na przyczynie i skutku” – mówi artystka cyfrowych mediów Hito Steyerl. „Między magicznym myśleniem a elementami uczenia maszynowego istnieje bliskość. Wielkie korporacje promują jednak tę magiczną atmosferę najwyraźniej tylko po to, aby sprzedawać swoje produkty. Wcale nie są magiczne, raczej są tak zwanymi enshittyfikatorami, czyli robią ze wszystkiego chłam.”

Strategiczne zanieczyszczanie dużych modeli językowych

LLM uczą się z wirtualnych archiwów, które im dostarczamy i w których dominuje Zachód. Gdy wzorce zostaną rozpoznane, można je masowo reprodukować w nieskończonych wariantach. Przeważające informacje są więc zniekształcone.

„Kiedy zastanawiamy się nad kwestią odpowiedzialności, często pojawia się tendencja do przenoszenia uwagi na same narzędzia AI. Mówimy o tym, co przyniosła nam AI, czy zaprzecza Holokaustowi, czy nie. Odpowiedzialność w rzeczywistości ponoszą jednak twórcy konkretnych treści lub dostawcy modelu AI, a te odpowiedzialności mogą się różnić” – mówi Koblížek.

Technologia rozwija się szybciej niż regulacje. Tempo i złożoność rozwoju LLM osiągnęły poziom, na którym nie da się nadążyć z monitorowaniem, czy modele są celowo trenowane do szerzenia określonej retoryki, czy też osoby odpowiedzialne po prostu nie zapobiegły tym zniekształceniom. Przestrzeń internetową dzielą zwykli użytkownicy i fałszywe strony internetowe masowo produkujące treści, których odbiorcami są inne boty służące do przyszłego tworzenia treści. Jak zauważa Koblížek, grupy skrajnie prawicowe chcą, aby ich materiały stały się częścią środowiska LLM: „Grupy ekstremistyczne aktywnie pracują nad tym, aby te treści były dostępne w internecie, nawet jeśli nie zdobędą wielu wyświetleń, po prostu po to, by istniały jako potencjalne źródło do trenowania AI”.

Ze względu na sposób działania generatywna AI ma również tendencję do wzmacniania istniejących w wirtualnych archiwach obrazów seksistowskich i rasistowskich, które są źródłami dla LLM i których poszukują aktorzy skrajnie prawicowi. „Umożliwia to prawicy przywoływanie nostalgicznej, ponadczasowej przeszłości, która nigdy nie istniała poza obrazami wykorzystanymi do trenowania oprogramowania” – mówi Meyer. Funkcjonuje wzajemny mechanizm podaży i popytu. Dodajmy format, który łatwo udostępniać w internecie, a maszyna propagandowa jest gotowa.

W niektórych przypadkach widzimy, że na trendy w mediach społecznościowych reagują także politycy o innych poglądach i generują własne treści wyśmiewające przeciwników. „Liberałowie, progresywiści i lewica byli jednak na ogół powściągliwi w publicznym korzystaniu z AI, nie tylko ze względu na powszechnie znane zniekształcenia modeli, lecz także z powodu masowego wyzysku ludzkiej pracy i kreatywności oraz zasobów naturalnych związanego z trenowaniem modeli AI. Dla prawicy przyjęcie rozpoznawalnej estetyki AI lub ,slopuʻ jest więc również sposobem na prowokowanie i trollowanie przeciwników” – dodaje Meyer.

Niebawem być może będziemy prowadzić dyskusje nie tylko o generowaniu nowych obrazów, lecz także o ochronie integralności przeszłości, którą można łatwo zmienić w orwellowski sposób. Rząd USA już to rozpoczął: ze stron internetowych swojej armii usuwa obrazy kobiet, osób LGBTQIA+ i osób o innym kolorze skóry. Meyer ostrzega przed „cyfrowym zapominaniem”. Innymi słowy, nie powinniśmy być tak pewni „pełnej dostępności przeszłości”. „Nie tylko rodzi to powszechną nieufność wobec wszelkich dowodów wizualnych, lecz także tworzy mylące oczekiwania co do tego, jak powinny wyglądać dokumenty historyczne” – mówi. Gdy usuniemy oryginały z naszych archiwów, mogą pozostać jedynie jako cienie w materiałach treningowych LLM.

Muzea i instytucje publiczne czasami same wykorzystują generatywną AI, aby uzupełniać historyczne luki i ożywiać przeszłość. Zdaniem Meyera „takie spekulatywne zastosowania często wprowadzają w błąd. Mają tendencję do reprodukowania istniejących klisz dotyczących przeszłości i tego, jak powinna być przedstawiana, zamiast otwierać nowe spojrzenie na historię”.

Instytucje stoją przed zadaniem podtrzymywania wyobrażeń o prawdzie, rozwijania świadomości społecznej i pomagania w wyznaczaniu zasad dobrej praktyki korzystania z AI. Regulowanie technologii w tempie, w jakim się rozwijają, będzie stałym wyzwaniem.

Treści generowane przez AI przez grupy takie jak Brat za Brata mogą być produkowane bez końca. W międzyczasie mogą osiągnąć punkt nasycenia, a ostatecznie przekonywać już tylko przekonanych albo po prostu męczyć swoich odbiorców, tak jak wcześniej inne formy propagandy.

Autorka jest dziennikarką zajmującą się słowacką polityką i energetyką dla The European Correspondent i VSquare.

Tekst publikujemy we współpracy z Eurozine

Ten artykuł powstał przy wsparciu fundacji ZEIT-Stiftung Ebelin und Gerd Bucerius.