Daniel Innerarity: „Kluczowe jest zasilanie sztucznej inteligencji większą różnorodnością”

Daniel Innerarity, jeden z najbardziej wybitnych hiszpańskich myślicieli współczesnego świata, przedstawia w swojej najnowszej książce konieczność „karmienia SI większą różnorodnością”, aby nie stała się narzędziem wykluczenia.

Innerarity (Bilbao, 1959), profesor filozofii politycznej i społecznej, badacz Ikerbasque na Uniwersytecie Kraju Basków, przedstawia te idee w Teorii krytycznej sztucznej inteligencji (Galaxia Gutenberg, 2025).

I wraz z rozszerzeniem różnorodności źródeł, które karmią te nowe systemy, profesor dodaje inną myśl: konieczność „nadzoru nad interakcją ludzką, aby zapewnić jej zgodność z wartościami demokratycznymi”.

W tym wywiadzie rozmawia o tej nowej książce, nagrodzonej III Nagrodą Eseju Eugenio Trías. Na okładce, mewa na zagiętym poręczy naprzeciwko morza sugeruje, wbrew oczekiwaniom, inny sposób patrzenia na rewolucję technologiczną.

Dlaczego ta okładka i ta książka?

Nie chciałem typowego obrazu w odcieniach niebieskiego, kojarzonego z eterycznym i chmurą, ponieważ postrzegam sztuczną inteligencję w bardziej materialny sposób, w kontraście do ludzkiego ciała. Zdjęcie, lekko retuszowane za pomocą SI, gra z tą ideą: maszyna interpretowałaby, że belka się zgięła pod ciężarem mewy, podczas gdy ludzie od razu rozumieją żart. To metafora różnic między naszą intuicją a przetwarzaniem SI.

Napisałem tę książkę, aby zrozumieć, co jest stawką. Jest wiele histerii wokół technologii, z przesadzonymi oczekiwaniami technosolucjonizmu. Silicon Valley chce, abyśmy wierzyli, że technologia, a nie deliberacja demokratyczna, rozwiąże wielkie problemy. Jest też przesadny panik, nieadekwatny do rzeczywistych zagrożeń ani naszych możliwości ich przezwyciężenia. SI nie wyznacza jednej drogi, otwiera różne możliwości, jak obecny kontekst historyczny, polityczny i geostrategiczny. Nie jest napisane, że to się skończy źle, ani że technologia ograniczy naszą wolność, może mieć wyzwalający potencjał.

Czy ‘technosolucjonizm’ to ideologia ery cyfrowej?

To ideologia niektórych wielkich przedsiębiorców świata cyfrowego, wzmocniona przez spektakularny rozwój technologiczny. Codziennie pojawiają się obiecujące lub niepokojące wiadomości: wczoraj kobieta odzyskała mowę dzięki SI; dziś tłumacze protestują, aby ich prace nie zasilały tych systemów. Ta karuzela postępów i konfliktów wywołuje zdumienie.

Jaka jest rola decyzji politycznej w demokracji algorytmicznej, biorąc pod uwagę, że SI warunkuje zarówno debatę, jak i podejmowanie decyzji?

Proces decyzyjny w SI obejmuje projektowanie, dane i interakcję z użytkownikami, a kluczowe jest, kiedy, jak i w jakim celu powinni interweniować ludzie. Brak różnorodności wśród projektantów tych systemów, zwłaszcza niska obecność kobiet, może generować uprzedzenia. Przykładem jest rozpoznawanie twarzy, które myliło czarnoskóre kobiety z orangutanami z powodu stronniczych treningów z większą ilością obrazów białych mężczyzn. Kluczowe jest karmienie SI większą różnorodnością, tak jak robi to Hiszpania z SI w języku hiszpańskim i językach współurzędowych [ALIA], wobec obecnego anglo-centrizmu, oraz nadzorowanie interakcji ludzkiej, aby zapewnić jej zgodność z wartościami demokratycznymi, jak robią Algorithm Watch i AESIA (Hiszpańska Agencja Nadzoru nad SI).

Dlaczego nie jest pożądane, aby SI była taka sama jak człowiek? Czy możemy ją kontrolować?

W lotnictwie bracia Wright pokazali, że zamiast naśladować ptaki, trzeba badać aerodynamikę. Tak samo jest z SI: zamiast powielać ludzką inteligencję, należy korzystać z jej zdolności obliczeniowych i obsługi dużych wolumenów danych. Dobrze działa w kontekstach z jasnymi danymi i rozwiązaniami binarnymi, ale w złożonych lub niejednoznacznych problemach ludzie pozostają niezastąpieni.

Nie znaleźliśmy odpowiedniej koncepcji kontroli SI: albo zostawiamy zbyt dużo marginesu, ryzykując wartości, albo stosujemy nadmierną kontrolę, hamującą jej uczenie się. Europejska ustawa o SI zmierza we właściwym kierunku, ale jest zbyt ogólna. To jak w 1868 roku, gdy w Wielkiej Brytanii wymagało się, aby osoba szła przed samochodem z czerwoną flagą, aby zapobiec wypadkom. Kluczem jest połączenie szybkości i bezpieczeństwa, jak w nowoczesnych samochodach czy systemie ABS, gdzie ulepszenia technologiczne zapobiegają ryzyku nagłego hamowania w panice.

Jakie mamy podstawy, by narzucać europejskie standardy regulacyjne?

Najlepiej byłoby osiągnąć globalne porozumienie w sprawie standardów etycznych, politycznych i demokratycznych, ale mamy różne kultury. Jak w przypadku zmian klimatycznych, wiemy, że jest to pilne, ale postępy są możliwe tylko poprzez częściowe porozumienia. Niemniej jednak, europejskie standardy wpływają na innych aktorów. Ponadto SI i ekologia się przenikają, ponieważ zużycie energii przez tę technologię jest ogromne i już stanowi część międzynarodowej agendy klimatycznej.

Co oznacza, że regulacje SI tworzą osoby niebędące cyfrowymi tubylcami, z inną percepcją ryzyka i korzyści niż nowe pokolenia?

Transformacja cyfrowa nie polega tylko na cyfryzacji administracji, lecz na przemianie społeczeństwa jako całości. Taka transformacja musi być demokratyczna i inkluzywna, otwierać debaty, umożliwiać krytykę i brać pod uwagę różnice pokoleniowe, ekonomiczne, geograficzne i kulturowe. Nie można jej zarządzać, ignorując różnorodność: cyfrowych tubylców, starszych, migrantów, mieszkańców obszarów wiejskich… To test na rozwinięcie technologii inkluzywnej czy pozwolenie, by dzieliła i wykluczała. Musimy zapobiec, by digitalizacja stała się narzędziem wykluczenia, jak to było z przejściem ekologicznym podczas protestów żółtych kamizelek we Francji.

W „Epoce rewanżu” Andrea Rizzi proponuje globalny organ do zarządzania SI, jak IAEA w energii jądrowej. Jak to zrobić w kontekście braku zaufania?

Żyjemy w tej epoce, a instytucje międzynarodowe są kwestionowane z powodów ideologicznych lub geostrategicznych. Dominuje logika „ratuj się, kto może” i gry o sumie zerowej, co utrudnia silne zarządzanie międzynarodowe. Obecnie model win-win ani nie istnieje, ani się nie zapowiada. W tym kontekście pandemia miała mieszane skutki. Pozytywnie, promowała współpracę w Europie, uruchamiając mechanizmy solidarności, takie jak fundusze Next Generation, nie do pomyślenia w 2008 roku. Negatywnie, pogłębiła nierówności, jak edukacja online, która wykluczyła uczniów z środowiska szkolnego, i wywołała poczucie zagrożenia i irytacji społecznej, podsycając nieufność wobec władz, migrantów i innych krajów, co sprzyja dziś ekstremizmom.

Jakie są tego konsekwencje?

Obecnie obywatele mają większą krytyczną świadomość, co można uznać za postęp demokratyczny. Jednak uważam, że idea przejrzystości jest przeceniana i że nasza kultura wizualna błędnie zakłada, iż widzieć to rozumieć. Wobec przejrzystości – rozumianej jako „widzieć w czarnej skrzynce” – proponuję skupić się na wyjaśnialności: nie wystarczy pokazać, trzeba uczynić zrozumiałym, ponieważ obecne systemy technologiczne są tak złożone, że można je ocenić właściwie tylko za pomocą wiarygodnych instytucji publicznych mediacji.

Jak radzimy sobie z algorytmami sprzyjającymi polaryzacji i dezinformacji?

Przechodzimy od ekosystemu z niewieloma źródłami informacji do takiego z wieloma, gdzie wyzwaniem jest odróżnienie wiarygodnych. Ta obfitość, korzystna i demokratyczna, jest zniekształcana przez media społecznościowe z algorytmami promującymi ekstremizm, polaryzację, skandal i karzącymi umiarkowanie. Jednak można regulować algorytmy, aby promowały dynamiki zgodne z kulturą demokratyczną, jak robi UE.

Jak podchodzimy do konfliktu między SI a prawami autorskimi?

Europa lideruje w regulacji praw autorskich i prywatności, ale równowaga jest skomplikowana. Duża część ludzkiej kreatywności polega na recomponowaniu twórczości innych, nie jesteśmy tak kreatywni, jak myślimy. Nie chodzi o usprawiedliwianie plagiatu, istnieją oczywiste granice, ale w innych przypadkach trudno wyznaczyć, co jest oryginalne, a co powtarzalne, w dużej mierze dlatego, że żyjemy w kulturze pełnej banalnych produktów – jak scenariusze seriali czy bestsellery – opartych na mało oryginalnych formułach.

SI rewolucjonizuje dziedziny takie jak medycyna, ale edukacja jest opóźniona. Co by Pan, ogólnie, powiedział nauczycielom i profesorom, tak jak Pan?

W dziedzinach takich jak medycyna (czy prawo) wyraźnie widać opóźnienie między oczekiwaniami społecznymi a szkoleniem opartym na pamięci, powtarzalnym i mało kreatywnym. Chociaż w zdrowiu i wymiarze sprawiedliwości rzadko eksperymentujemy, potrzebne byłoby bardziej holistyczne szkolenie.

Ogólnie, powiedziałbym nauczycielom, że już nie jesteśmy tylko przekazicielami informacji. Od kiedy jest Google, ta funkcja stała się banalna, uczniowie już nas nie potrzebują, by znaleźć dane. Co możemy im zaoferować, czego nie mogą znaleźć sami?: możemy pomóc im formułować właściwe pytania – bo szukanie nie jest łatwe ani spontaniczne – i nauczyć ich naprawdę odnajdywać to, czego szukają. Google konkuruje z nami tylko w zbieraniu informacji, nie w najbardziej kreatywnym nauczaniu.

Źródło: Aser G. Rada / Agencja SINC / CC By

Fotografia: Juantxo Egaña / CC By-sa