Daniel Innerarity: „Je kľúčové krmiť umelú inteligenciu väčšou rozmanitosťou“

Daniel Innerarity, jeden z najvýznamnejších španielskych mysliteľov súčasnosti, navrhuje vo svojej poslednej knihe potrebu „krmiť AI väčšou rozmanitosťou“, aby sa nestala nástrojom vylúčenia.

Innerarity (Bilbao, 1959), profesor Politickej a Sociálnej filozofie, výskumník Ikerbasque na Univerzite Baskicka, predstavuje tieto myšlienky v Teórii kritickej umelej inteligencie (Galaxia Gutenberg, 2025).

A spolu s rozšírením rozmanitosti v zdrojoch, ktoré tieto nové systémy kŕmia, pridáva profesor ďalšiu myšlienku: potrebu „dozerať na ľudskú interakciu, aby sa zabezpečila jej kompatibilita s demokratickými hodnotami“.

V tomto rozhovore hovorí o tejto novej knihe, ktorá získala III. cenu za esej Eugenio Trías. Na obálke je bocian na zábradlí ohnutom pred morom, čo naznačuje, proti očakávaniam, iný spôsob pohľadu na technologickú revolúciu.

Prečo práve táto obálka a táto kniha?

Nechcel som typickú modrú obrázok, spojenú s éterom a oblakmi, pretože vnímam umelú inteligenciu skôr ako niečo materiálne, v kontraste s ľudským telom. Fotografia, trochu upravená AI, hrá s touto myšlienkou: stroj by interpretoval, že tyč sa ohla pod váhou bociana, zatiaľ čo ľudia okamžite chápeme vtip. Je to metafora o rozdieloch medzi našou intuíciou a spracovaním AI.

Napísal som túto knihu, aby bolo jasné, čo je v hre. Existuje veľa hystérie okolo technológie, s prehnanými očakávaniami technosolucionizmu. Silicon Valley chce, aby sme verili, že technológia, a nie demokratická diskusia, vyrieši veľké problémy. Taktiež je tu prehnaný panika, ktorá nezodpovedá skutočným rizikám ani našim možnostiam ich zvládnuť. AI neukazuje cestu, otvára rôzne možnosti, ako je aktuálny historický, politický a geopolitický kontext. Nie je napísané, že to skončí zle, ani že technológia zníži našu slobodu, môže mať emancipujúci potenciál.

Je ‘technosolucionizmus’ ideológiou digitálnej éry?

Je to ideológia niektorých veľkých podnikateľov v digitálnom svete, posilnená ohromným technologickým rozvojom. Každý deň prichádzajú správy sľubné alebo znepokojujúce: včera žena získala späť reč vďaka AI; dnes protestujú prekladatelia, aby ich práce nekrmili tieto systémy. Tento kolotoč pokroku a konfliktov spôsobuje zmätenie.

Aká je úloha politického rozhodovania v algoritmickej demokracii, vzhľadom na to, že AI ovplyvňuje diskusiu aj rozhodovanie?

Proces rozhodovania v AI zahŕňa návrh, dáta a interakciu s používateľmi, a kľúčové je, kedy, ako a na čo majú zasahovať ľudia. Nedostatok rozmanitosti medzi tými, čo navrhujú tieto systémy, najmä nízka prítomnosť žien, môže viesť k predsudkom. Príkladom je rozpoznávanie tvárí, ktoré zamieňalo černošky s orangutanmi kvôli zaujatým tréningom s viac obrázkami bielych mužov. Je nevyhnutné krmiť AI väčšou rozmanitosťou, ako to robí Španielsko s AI v španielčine a úradných jazykoch [ALIA], proti súčasnému anglocentrizmu, a dozerať na ľudskú interakciu, aby sa zabezpečila jej kompatibilita s demokratickými hodnotami, ako to robí Algorithm Watch a AESIA (Španielska agentúra pre dohľad nad AI).

Prečo nie je žiaduce, aby AI bola rovnaká ako človek? Môžeme ju kontrolovať?

V letectve ukázali bratia Wrightovci, že namiesto napodobňovania vtákov sa treba zaoberať aerodynamikou. Rovnaké platí pre AI: namiesto replikácie ľudskej inteligencie by sme mali využiť jej výpočtové schopnosti a spracovanie veľkých objemov dát. Funguje dobre v kontextoch s jasnými dátami a binárnymi riešeniami, ale pri zložitých alebo nejasných problémoch sme nenahraditeľní.

Náš koncept kontroly AI zatiaľ neexistuje: buď dávame príliš veľký priestor, čím riskujeme hodnoty, alebo uplatňujeme príliš prísnu kontrolu, ktorá brzdí jej učenie. Európska legislatíva o AI ide správnym smerom, ale je príliš všeobecná. Je to ako v roku 1868, keď vo Veľkej Británii požadovali, aby osoba kráčala pred autom s červenou vlajkou, aby predišla nehodám. Kľúčom je kombinovať rýchlosť a bezpečnosť, ako moderné autá alebo ABS, kde technologické vylepšenia zabraňujú riziku prudkého brzdenia v panike.

Akú legitimitu máme na uplatňovanie európskych regulačných perspektív?

Ideálne by bolo dosiahnuť globálnu dohodu o etických, politických a demokratických štandardoch, ale máme odlišné kultúry. Ako pri klimatických zmenách, vieme, že je to naliehavé, ale postupuje sa čiastočnými dohodami. Napriek tomu európske štandardy ovplyvňujú aj iné aktérov. Navyše, AI a ekológia sa prelínajú, pretože energetická spotreba tejto technológie je obrovská a už patrí do medzinárodnej klimatickej agendy.

Čo znamená, že regulácie AI tvoria ľudia, ktorí nie sú digitálnymi domorodcami, s odlišnou percepciou rizík a prínosov ako nové generácie?

Digitálna transformácia nespočíva len v digitalizácii úradov, ale v transformácii celej spoločnosti. A takáto veľká zmena musí byť demokratická a inkluzívna, otvárať diskusie, umožniť kritiku a brať do úvahy generačné, ekonomické, geografické a kultúrne rozdiely. Nemôže sa riadiť ignorovaním rozmanitosti: digitálni domorodci, starší, migranti, obyvatelia vidieka… Je to skúška, či vyvinieme inkluzívnu technológiu alebo ju necháme rozdeľovať a vylučovať. Musíme zabrániť tomu, aby digitalizácia bola nástrojom vylúčenia, ako to bolo vidieť pri ekologickej transformácii počas protestov žltých vest v Francúzsku.

V knihe „V ére odplaty“ Andrea Rizzi navrhuje globálny orgán na riadenie AI, podobne ako IAEA v jadrovej energii. Ako to dosiahnuť v prostredí nedôvery?

Žijeme v tejto ére a globálne inštitúcie sú spochybňované z ideologických alebo geopolitických dôvodov. Prevláda logika „kto zachráni seba, zachráni sa“ a hry s nulovým súčtom, čo sťažuje pevné medzinárodné riadenie. Dnes model win-win ani neexistuje, ani sa nečaká. Pandémia mala ambivalentné účinky. V pozitívnom zmysle podporila kooperatívnu reakciu v Európe, zaviedla mechanizmy solidarity ako fondy Next Generation, čo bolo nemysliteľné v roku 2008. V negatívnom zmysle prehĺbila nerovnosti, ako online vzdelávanie, ktoré vylúčilo študentov zo školského prostredia, a vytvorila pocit zraniteľnosti a spoločenskej podráždenosti, čo posilnilo nedôveru voči autoritám, migrantom a iným krajinám, čo je základom dnešných extrémizmov.

Aké dôsledky má táto nedôvera?

Teraz má občan väčší kritický zmysel, čo môže byť považované za demokratický pokrok. Avšak, myslím si, že myšlienka transparentnosti je preceňovaná a naša vizuálna kultúra nesprávne predpokladá, že vidieť znamená rozumieť. V porovnaní so transparentnosťou – chápanej ako len „vidieť do čiernej skrinky“ – navrhujem zamerať sa na vysvetliteľnosť: nestačí len ukázať, je potrebné spraviť to zrozumiteľné, pretože súčasné technologické systémy sú tak zložité, že ich možno správne hodnotiť len prostredníctvom spoľahlivých verejných inštitúcií mediácie.

Ako čelíme algoritmom, ktoré podporujú polarizáciu a dezinformácie?

Prechádzame z ekosystému s málo zdrojmi informácií na taký s množstvom, kde je výzvou rozlíšiť spoľahlivé. Táto hojnosť, prospešná a demokratická, je skreslená sociálnymi sieťami s algoritmami, ktoré podporujú extrémizmus, polarizáciu, škandály a trestajú umiernenosť. No je možné regulovať algoritmy tak, aby podporovali dynamiky zhodné s demokratickou kultúrou, ako to robí EÚ.

Ako riešime konflikt medzi AI a autorskými právami?

Európa vedie v regulácii autorských práv a súkromia, ale rovnováha je zložitá. Veľká časť ľudskej tvorivosti spočíva v rekonštrukcii tvorivosti iných, nie sme takí tvoriví, ako si myslíme. Nejde o ospravedlňovanie plagiátorstva, existujú jasné hranice, ale v iných prípadoch nie je ľahké určiť, čo je originálne a čo opakujúce sa, čiastočne preto, že žijeme v kultúre s množstvom banálnych alebo neoriginálnych produktov – ako sú scenáre seriálov alebo bestsellery.

AI revolučne mení oblasti ako medicínu, no vzdelávanie zaostáva. Čo by ste, všeobecne, povedali učiteľom a profesorom, ako ste vy?

V oblastiach ako medicína (alebo právo) je veľmi zrejmý rozdiel medzi tým, čo očakáva spoločnosť, a memoristickým, opakujúcim sa a málo tvorivým vzdelávaním. Hoci v zdravotníctve a práve neradi experimentujeme, bolo by potrebné komplexnejšie vzdelávanie.

Všeobecne by som učiteľom povedal, že už nie sme len sprostredkovatelia informácií. Od čias Google je táto funkcia banálna, študenti nás už nepotrebujú na hľadanie dát. Čo im môžeme ponúknuť, čo nemôžu nájsť sami?: môžeme im pomôcť formulovať správne otázky – pretože hľadanie nie je jednoduché alebo spontánne – a naučiť ich skutočne nájsť to, čo hľadajú. Google s nami súťaží len v zbere informácií, nie v najkreatívnejšom vyučovaní.

Zdroj: Aser G. Rada / Agentúra SINC / CC By

Fotografia: Juantxo Egaña / CC By-sa