Zvrat říše AI

Zatímco technokraticko-autoritářská soutěž o vývoj pokročilých technologií umělé inteligence pokračuje naplno, vliv Silicon Valley na regulační agendy již soupeří – a dokonce je může i předčít – s mnoha státy. Mezitím však globální supervelmoci a obři AI mají příležitost hledat něco lepšího. Rozhovor s oceněnou novinářkou a spisovatelkou Karen Haoovou.

Alessio Giussani: Mnoho metafor bylo použito k popisu současného modelu vývoje umělé inteligence – například papoušek nebo zrcadlo. Proč jste zvolila právě metaforu říše?

Karen Hao: Myslím, že tyto metafory jsou všechny velmi užitečné. Zaměřuji se na „říši“, protože nezkoumám jen samotný technický nástroj a to, co se děje, když je používán ve společnosti, ale také výrobu technologie a ty aktéry, kteří hromadí mimořádnou ekonomickou a politickou moc pro její tvorbu.

Čtyři hlavní důvody, proč nazývám tento systém říší. Za prvé, tyto společnosti požadují zdroje, které jim nepatří: data jednotlivců, stejně jako práce autorů a tvůrců. Za druhé, extrémně vykořisťují pracovní sílu, a to jak zaměstnance, kteří jsou vykořisťováni v výrobním procesu a v dodavatelských řetězcích technologií, tak i ty, jejichž pracovní práva jsou během zavádění technologií narušována.

Třetí aspekt je kontrola informací. Jedním z hlavních rysů expanze říší je schopnost filtrovat veškerou tvorbu znalostí a informace skrze jejich cíle, a to dělají i společnosti zabývající se umělou inteligencí. Kontrolují a cenzurují vědu tím, že většinu výzkumu v oblasti AI finančně podporují a budují informační technologie, které mají být centrálním portálem, přes který se propojí všichni ostatní, včetně vzdělávání.

A nakonec to vše zakrývají civilizační misí. Tvrdí, že se touto prací zabývají proto, že chtějí lidstvu poskytnout technologii, která nás povznese do utopického stavu, a pokud ji vyvíjejí před „zloději“ – což obvykle znamená Čínu – skončíme v dystopickém stavu. Je to jakýsi náboženský narativ, který byl běžný i u starých říší.

Říše AI, jak ji popisujete, se neomezují na jednu společnost; je to systém, logika. Co stojí za vaší pozorností směrem k OpenAI a jejímu generálnímu řediteli, Samu Altmanovi?

Jedna odpověď je, že lidé potřebují příběhy, které pomáhají konkrétně utvářet to, co by jinak zůstalo abstraktní myšlenkou. Ale OpenAI je zvlášť zajímavé, protože učinilo všechny důležité rozhodnutí, která změnila průmyslové normy a nasměrovala to k budování říše. OpenAI bylo to, které se rozhodlo expandovat za každou cenu, pracovat s velkými jazykovými modely a vytvořit chatbotové rozhraní. Téměř vše, co dnes veřejnost spojuje s umělou inteligencí, bylo nejprve rozhodnuto uvnitř OpenAI.

Pokud tento příběh vyprávíme, je mnohem zřejší, že umělá inteligence není nevyhnutelná, protože si uvědomíme, že skuteční lidé činili rozhodnutí na základě svých hodnot, světového názoru, osobní pomsty – cokoli, co skutečně určovalo trajektorii vývoje AI. Ideologie Sama Altmana neprostupuje jen abstraktně modelem. Často se říká, že modely odrážejí tvůrce, ale já jsem chtěla ukázat, jak se to ve skutečnosti děje. Jde o společnosti, lidi a ekonomické a ideologické prostředí, které jsou jejich součástí.

Jak se s těmito technologiemi, které se stávají stále efektivnějšími, dostáváme k otázce kontroly nad jejich použitím, stává se to existenční otázkou. Viděli jsme, že velké technologické firmy se při druhé inauguraci Trumpa sklonily před ním, ale také vidíme, že generální ředitelé firem v oblasti AI se stále více staví proti vládě. Komu nakonec bude patřit poslední slovo – státu nebo soukromým společnostem?

Probíhá boj o to, kdo bude rozhodovat. Považuji vztah mezi Washingtonem a Silicon Valley za pohodlné spojenectví, ale velmi napjaté. Představují dva odlišné modely říše, každý se svými cíli. Oba se snaží expandovat a doslova převzít více oblastí od jiných zemí, ale vláda Trumpa považuje AI společnosti za nástroje svých říšských ambicí. Zatímco Silicon Valley vnímá Trumpovu vládu jako nástroj svých vlastních říšských snů, ve skutečnosti nejsou na stejné vlně, protože oba chtějí, aby právě oni byli tou nejvyšší autoritou, která se dostane na vrchol.

Byly chvíle, kdy americká vláda dokázala, že je stále pánem – když se střetli Trump a Musk, Musk byl odvolán. Ale když se Pentagon střetl s Anthropic, ukázalo se, že v tomto případě je silnější společnost: obranný ministr Pete Hegseth navrhl „jadernou možnost“, hrozil, že společnost zařadí do dodavatelských řetězců jako riziko – jako poslední prostředek, jak donutit Anthropic k poslušnosti –, ale společnost ani tak nesklonila hlavu. Poměrně trapně se Pentagon stal závislým na soukromém subjektu, který nehodlá spolupracovat podle vládních podmínek, a vláda nemůže nic dělat.

Obě strany říše musí být odpovědné, a toto odpovědnost nebude vycházet od nich; musí pocházet od lidí. Odspodu, od organizace, která začíná vzkvétat po celém světě, včetně Spojených států. Ačkoliv se tato pohodlná aliance může zdát neproniknutelná, je ve skutečnosti velmi křehká, a existují možnosti, jak její pád urychlit tím, že na její slabá místa vyvineme větší tlak.

Místo toho, abychom vnímali umělou inteligenci jako globální soutěž mezi dobrými a špatnými, měli bychom spíše přemýšlet o tom, jakou máme vizi společnosti.

Současný stav vývoje umělé inteligence se jeví jako soutěž o dosažení dna mezi konkurenčními společnostmi a globálními supervelmocemi. Jakou roli hrála geopolitická soutěž s Čínou v tom, že se AI dostala do současné složité situace?

Čína je taková karta, kterou Silicon Valley hraje už přes deset let, prakticky od té doby, co ji vyhostili z Číny. Pokud však zkoumáme předchozí výsledky tohoto argumentu, vidíme, že ve skutečnosti vždy došlo k opaku předpovědí Silicon Valley.

Tvrdili, že nedostatek regulace v Silicon Valley – a regulace přes exportní omezení Číny – povede k dominanci amerických technologií po celém světě. Přesto je TikTok nejpopulárnější platformou sociálních médií a čínské open-source modely AI jsou stále populárnější po celém světě, včetně USA. Také slibovali, že dominace Silicon Valley bude liberální vliv na svět, ale to se nestalo; jejich dopad je naopak hluboce illiberální. Dochází k extrémní erozi demokratických institucí a rychlému úpadku demokracie, což podporují platformy Silicon Valley a technologie AI.

Místo toho, abychom vnímali umělou inteligenci jako globální soutěž mezi dobrými a špatnými, měli bychom spíše přemýšlet o tom, jakou máme vizi společnosti, jaké technologie AI by ji podporovaly a jaké zdroje potřebujeme k jejímu naplnění. Neměli bychom soutěžit v soutěži, kterou určuje Silicon Valley, ale v těch představách a hodnotách, které chceme zachovat. A věřím, že Evropa má zde příležitost ukázat třetí cestu, odlišnou od USA a Číny, a stanovit nová pravidla.

Evropská komise nedávno přijala balíček technologické suverenity, který je součástí snahy, aby Evropa šla vlastní cestou v technologiích. Jak můžeme formulovat tuto vizi tak, aby nevznikl evropský oligarchický model založený na sledování?

Hlavní hvězda, kterou by Evropa měla sledovat, není suverenita za každou cenu, ale dosažení této suverenity. Evropa – nebo alespoň velká část – je jednou z posledních bašt demokracie na světě. Podporuje lidská práva a svobody a potřebuje technologickou suverenitu, aby tyto hodnoty posilovala. Dokud zůstane závislá na systémech, které jsou vyvíjeny autoritářsky a mají za cíl podkopat evropskou společnost, nebude schopná udržet své hodnoty.

Pojetí suverenity se může rozplývat, pokud ji začneme vnímat jen jako cíl sám o sobě. Měla by být prostředkem k dosažení určitého cíle.

Na jakých koalicích, zájmových skupinách nebo konfliktních scénářích bychom měli začít stavět, abychom vybudovali tuto alternativní vizi?

Nejprve je třeba vnímat řízení AI v širším smyslu. Například posilování práv pracovníků a ochrana občanské společnosti jsou součástí řízení AI. Studenti, učitelé a zdravotníci by měli být u stolu, pomáhat formovat a zpochybňovat, jak se AI vyvíjí a používá ve společnosti. Vzdělávání je klíčové, jak v sektorech, tak jako součást koalic, které je třeba zapojit, a také z hlediska společenské osvěty o AI.

Dalším důležitým aspektem je financování výzkumníků a podnikatelů v oblasti AI, aby odhalili technické detaily vývoje a způsoby použití. Ale nemůžeme jim jen tak dávat peníze, aniž bychom dali prostor i ostatním částem společnosti; jinak bychom opakovali problémy, kterým čelí USA, kde rozhodují technokraté nebo technokonzervativci.

Nezačínáme od nuly. Už jsme udělali hodně práce na stanovení společných cílů, kterým by měla společnost směřovat. Například myslím na udržitelné rozvojové cíle. To může být výchozí bod pro vymýšlení, jak financovat inovace v oblasti AI.

Současné narativy o technologiích AI jsou extrémně polarizované. Na jedné straně jsou ti, kteří tvrdí, že v těchto technologiích není nic zvlášť nového a že bublina brzy praskne. Na druhé straně jsou ti, kteří věří, že AI změní náš život, revolucionalizuje dodavatelské řetězce a všechny nás zbytečně odstaví od práce. Co si o těchto různých názorech myslíte?

Je pravda, že mnoho lidí přeceňuje výhody, aniž by brali v úvahu náklady technologií, nebo je naopak přeceňuje, aniž by viděli jejich přínosy. Ale myslím, že dostatečné procento lidí souhlasí s tím, že chceme využívat výhod AI, ale ne na úkor důstojného života – který zahrnuje kvalitní zdravotní péči, ekonomické příležitosti, zdravé prostředí a prosperující planetu. To je nejvyváženější přístup.

Umělá inteligence (AI) je souhrnný pojem pro různé technologie, proto je třeba pečlivě zvážit, do čeho investovat a jaké nové technologie vyvíjet, protože každá přináší jiné kompromisy; některé jsou v souladu s naší budoucností, kterou chceme budovat, jiné nikoliv. Je třeba moudře vybírat.

Umělá inteligence (AI) označuje různé technologie, proto je třeba pečlivě zvážit, do čeho investovat a jaké nové technologie vyvíjet.

Jaký je váš osobní vztah k existujícím AI nástrojům?

Neužívám je ze tří hlavních důvodů. Za prvé, kvůli svému etickému postoji. Za druhé, kvůli ochraně soukromí: tyto společnosti zkoumám a jsou to v konečném důsledku nejúčinnější sledovací technologie, jaké kdy byly vynalezeny. Za třetí, tyto nástroje nejsou příliš užitečné pro specifické dovednosti, které potřebuji k vykonávání své práce.

Neříkám, že to tak musí dělat každý. Mnoho lidí mi řeklo, že z těchto nástrojů jednoznačně profitují, nebo že jejich používání je součástí jejich profesní role. Spíše je řešením současného problému, když uděláme to, co jsme dělali v jiných odvětvích, například v módním průmyslu. Když jsme zjistili, že většina našich oděvů je vyráběna v hrozných podmínkách, nevyhodili jsme je jen tak. Bylo třeba mnoha spotřebitelských a pracovních organizací, vládních regulací a veřejného ohlasu, aby se odvětví dostalo pod kontrolu. Samozřejmě, módní průmysl stále není dokonalý, ale alespoň dnes existují alternativy a spotřebitelé mohou svým výběrem hlasovat, jaké dodavatelské řetězce a firemní praktiky podporují.

To samé musíme udělat i s AI. Momentálně není dost alternativ pro uživatele, a aby se to změnilo, je třeba více zaměstnaneckých organizací a větší veřejný odpor. Ti, kdo se mohou vyhnout používání těchto technologií, by je měli bojkotovat, a vlády musí zasáhnout, aby pomohly vytvářet nové trhy pro alternativy.

Spotřebitelé mají velký vliv, ale nejen oni. Jako jednotlivci, zaměstnanci, učitelé a občané musíme přemýšlet, jak tyto role využít ke zlepšení vývoje AI.