Daniel Innerarity: „Je zásadní krmit umělou inteligenci větší rozmanitostí.“

Daniel Innerarity, jeden z nejvýznamnějších španělských myslitelů současného světa, navrhuje ve své poslední knize nutnost „krmit AI větší rozmanitostí“, aby se nestala nástrojem vyloučení.

Innerarity (Bilbao, 1959), profesor politické a sociální filozofie, výzkumník Ikerbasque na Univerzitě Baskicka, představuje tyto myšlenky v Krátké kritické teorii umělé inteligence (Galaxia Gutenberg, 2025).

A spolu s rozšířením rozmanitosti ve zdrojích, které tyto nové systémy živí, přidává profesor ještě jednu myšlenku: potřebu „dozorovat lidskou interakci, aby byla zajištěna její kompatibilita s demokratickými hodnotami“.

V tomto rozhovoru hovoří o této nové knize, která byla oceněna III. cenou za esej Eugenio Trías. Na obálce je racka na ohnuté zábradlí naproti moři, což navzdory očekávání naznačuje jiný způsob pohledu na technologickou revoluci.

Proč právě tato obálka a tato kniha?

Nechtěl jsem typický obrázek v modrých tónech, spojený s éterem a cloudem, protože si představuji umělou inteligenci spíše jako něco materiálního, v kontrastu s lidským tělem. Fotografie, mírně upravená pomocí AI, si s tímto nápadem hraje: stroj by interpretoval, že tyč se ohnula kvůli váze racky, zatímco my lidé chápeme vtip okamžitě. Je to metafora rozdílů mezi naší intuicí a zpracováním AI.

Napsal jsem tuto knihu, aby bylo jasné, co je v sázce. Je tu hodně hysterie kolem technologie, s přehnanými očekáváními technosolucionismu. Silicon Valley chce, abychom věřili, že technologie, a nikoliv demokratická diskuse, vyřeší velké problémy. Existuje také přehnaný panický strach, který není v souladu s reálnými riziky ani našimi možnostmi je zvládnout. AI nevytváří cestu, otevírá různé možnosti, jako je současný historický, politický a geopolitický kontext. Není psáno, že to skončí špatně, ani že technologie omezí naši svobodu, může mít emancipující potenciál.

Je ‘technosolucionismus’ ideologií digitální éry?

Je to ideologie některých velkých podnikatelů ve světě digitálních technologií, posílená ohromným technologickým rozvojem. Každý den přicházejí zprávy, které slibují nebo vzbuzují obavy: včera žena znovu získala řeč díky AI; dnes protestují překladatelé, aby jejich práce nepřispívaly těmto systémům. Tento kolotoč pokroku a konfliktů vyvolává zmatek.

Jakou roli hraje politické rozhodování v algoritmické demokracii, vzhledem k tomu, že AI ovlivňuje jak diskusi, tak rozhodování?

Proces rozhodování v AI zahrnuje návrh, data a interakci s uživateli, a klíčové je, kdy, jak a proč mají zasahovat lidé. Nedostatek rozmanitosti u těch, kdo tyto systémy navrhují, zejména nízká přítomnost žen, může vést k zaujatostem. Příkladem je rozpoznávání obličejů, které zaměnilo černošky s orangutany kvůli zaujatým tréninkům s více obrázky bílých mužů. Je zásadní, aby AI byla živena větší rozmanitostí, jak to dělá Španělsko s AI ve španělštině a s ústavními jazyky [ALIA], proti současnému anglocentrismu, a dohlížet na lidskou interakci, aby byla v souladu s demokratickými hodnotami, jak to dělají Algorithm Watch a AESIA (Španělská agentura pro dohled nad AI).

Proč není žádoucí, aby AI byla stejná jako člověk? Můžeme ji kontrolovat?

V letectví ukázali bratři Wrightovi, že místo napodobování ptáků je třeba studovat aerodynamiku. Stejně tak u AI: místo napodobování lidské inteligence je třeba využít její výpočetní schopnosti a práci s velkými objemy dat. Funguje dobře v kontextech s jasnými daty a binárními řešeními, ale u složitých nebo nejasných problémů jsou lidé nenahraditelní.

Nepodařilo se nám najít vhodný koncept kontroly AI: buď dáváme příliš velký prostor, čímž ohrožujeme hodnoty, nebo uplatňujeme příliš přísnou kontrolu, která brzdí její učení. Evropský zákon o AI jde správným směrem, ale je stále obecný. Je to jako v roce 1868, kdy ve Velké Británii požadovali, aby před autem šel člověk s červenou vlajkou, aby se předešlo nehodám. Klíčem je kombinace rychlosti a bezpečnosti, jako u moderních aut nebo ABS, kde technologické vylepšení zabraňuje nebezpečí prudkého brzdění v panické situaci.

Jakou legitimitu máme k prosazování evropského regulačního rámce?

Ideální by bylo dosáhnout globální dohody o etických, politických a demokratických standardech, ale máme různé kultury. Jako u změny klimatu víme, že je to naléhavé, ale postupuje se částečnými dohodami. Přesto evropské standardy ovlivňují ostatní aktéry. Navíc se AI a ekologie prolínají, protože energetická náročnost této technologie je obrovská a již je součástí mezinárodní klimatické agendy.

Co znamená, že regulace AI tvoří lidé, kteří nejsou digitálními nativy, s odlišným vnímáním rizik a přínosů než nová generace?

Digitální transformace nespočívá jen v digitalizaci úřadů, ale v proměně celé společnosti. A taková změna musí být demokratická a inkluzivní, otevřít diskuse, umožnit kritiku a vzít v úvahu generační, ekonomické, geografické a kulturní rozdíly. Nelze ji řídit ignorováním rozmanitosti: nativní digitálové, starší lidé, migranti, obyvatelé venkova… Je to zkouška odolnosti, zda vyvineme inkluzivní technologii, nebo ji necháme rozdělovat a vylučovat. Musíme zabránit tomu, aby digitalizace byla nástrojem vyloučení, jako tomu bylo při ekologické transformaci a protestech žlutých vest ve Francii.

V knize „V éře pomsty“ Andrea Rizzi navrhuje vytvoření globálního orgánu pro řízení AI, podobně jako IAEA v jaderné energii. Jak toho dosáhnout v kontextu nedůvěry?

Žijeme v této éře a globální instituce jsou zpochybňovány z ideologických nebo geopolitických důvodů. Převládá logika „sázej, kdo může“ a hry s nulovým součtem, což brání pevné mezinárodní správě. Dnes model win-win ani neexistuje, ani se nečeká. Pandemii lze považovat za ambivalentní: na jedné straně podpořila kooperativní reakci v Evropě, například mechanismy solidarity jako fondy Next Generation, které si v roce 2008 neumíme představit; na straně druhé prohloubila nerovnosti, například online vzdělávání, které vyloučilo studenty z prostředí školy, a vyvolala pocit zranitelnosti a sociálního napětí, což posiluje nedůvěru vůči autoritám, migrantům a dalším zemím, a to je kořen dnešních extrémismů.

Jaké důsledky má tato nedůvěra?

Nyní má občanská společnost větší kritické myšlení, což lze považovat za pokrok v demokracii. Nicméně si myslím, že myšlenka transparentnosti je nadhodnocená a naše vizuální kultura mylně předpokládá, že vidět znamená rozumět. Místo transparentnosti – chápající jen „vidět do černé skříňky“ – navrhuji zaměřit se na vysvětlitelnost: nestačí ukázat, je třeba učinit srozumitelným, protože současné technologické systémy jsou tak složité, že je lze správně hodnotit pouze prostřednictvím důvěryhodných veřejných mediací.

Jak čelit algoritmům, které podporují polarizaci a dezinformace?

Přecházíme z ekosystému s málo zdroji informací na takový s mnoha, kde je výzvou rozlišit ty důvěryhodné. Tato hojnost, prospěšná a demokratická, je narušena sociálními sítěmi s algoritmy, které podporují extremismus, polarizaci, skandální věci a trestají umírněnost. Ale algoritmy lze regulovat tak, aby podporovaly dynamiky kompatibilní s demokratickou kulturou, jak činí EU.

Jak řešit konflikt mezi AI a autorskými právy?

Evropa vede v regulaci autorských práv a soukromí, ale rovnováha je složitá. Velká část lidské kreativity spočívá v recompozici tvorby jiných, nejsme tak kreativní, jak si myslíme. Nejde o ospravedlňování plagiátorství, existují zjevné limity, ale v jiných případech není snadné určit, co je originální a co opakující se, do značné míry proto, že žijeme v kultuře s mnoha banálními nebo málo originálními produkty – například scénáři seriálů nebo bestsellery.

AI revolucionalizuje oblasti jako medicína, ale vzdělávání zaostává. Co byste, obecně, řekl učitelům a profesorům, jako jste vy?

V oblastech jako medicína (nebo právo) je velmi zřejmé zpoždění mezi tím, co společnost očekává, a memoristickým, opakujícím se a málo kreativním vzděláváním. Ačkoliv v oblasti zdraví a spravedlnosti obvykle neprovádíme experimenty, bylo by třeba více holistické vzdělávání.

Obecně bych učitelům řekl, že už nejsme jen předávatelé informací. Od doby, kdy existuje Google, je tato funkce banální, studenti nás již nepotřebují k hledání dat. Co jim můžeme nabídnout, co nemohou najít sami?: můžeme jim pomoci formulovat správné otázky – protože hledat není snadné nebo spontánní – a naučit je skutečně najít to, co hledají. Google s námi soutěží jen v shromažďování informací, nikoliv v nejkreativnější výuce.

Zdroj: Aser G. Rada / Agentura SINC / CC By

Fotografie: Juantxo Egaña / CC By-sa