Umělá inteligence a obavy akademie

Na začátku září při prezentaci nového modelu GPT-6 Astra společnost OpenAI oznámila vznik takzvané obecné umělé inteligence. Mělo by jít o takovou úroveň rozvoje této technologie, která by přiblížila jazykové modely k mentálním schopnostem samotného člověka.

Ačkoliv toto prohlášení setkalo se také se skeptickým ohlasem ze strany expertů z oboru AI, další události zvýšily napětí kolem potenciálních možností umělé inteligence. Nejprve OpenAI oznámilo, že jejich jazykový model vyřešil jeden z „miléniových problémů“ (tedy fundamentální matematické otázky pro vědu). Poté se na sociálních sítích objevila nová informace: matematici, kteří byli blízko řešení téže problému a sami při tom také využívali modely GPT, vyjádřili obavy, že oznámený průlom od OpenAI byl dosažen díky jejich práci.

Připojme ještě, že již delší dobu se v médiích častěji objevují výroky bývalých zaměstnanců firmy, že vytvářené modely od OpenAI jsou nebezpečné a v budoucnu, jako plně autonomní a bez kontroly člověka systémy, mohou ohrozit lidstvo.

O tématech ohrožení spojených s rozvojem umělé inteligence bylo již opravdu napsáno hodně. Pokrok v této oblasti je spojen s vážnou environmentální stopou, neboť datová centra, nezbytná pro trénování jazykových modelů, vyžadují obrovské množství energie a vody. Zůstávají bez odpovědi otázky o soukromí, neboť uživatelé do jazykových modelů vkládají cokoliv – od rodinných fotografií po výsledky lékařských vyšetření – a vše se stává součástí mocné magmy dat, z nichž čerpají velké technologické firmy.

Občas se objevují méně či více vážné otázky o bezpečnosti a budoucnosti – jak zavést systémy kontroly, pokud tak mocná technologie je rozvíjena soukromými korporacemi, které nejsou pod žádnou kontrolou?

Jako sociolog nedokážu tyto hrozby posoudit. Nemám ponětí, zda za 10 let se neprobudíme ve světě jako z Terminátora. Nemám kompetence hodnotit, zda jsou varování, že nekontrolovaný rozvoj AI povede ke převzetí moci nad světem jazykovými modely, zakotvena v nějakých reálných procesech, nebo jsou jen výrazem technofobie charakteristické pro dobu průlomových vědecko-technických změn. Mohu však položit otázku ohledně charakteru těchto obav, neboť nám říkají něco velmi zajímavého o sociálních emocích, které rozvoj technologií vyvolává.

AI a akademie

Je to takové zajímavé téma, že před několika týdny jsme měli vlastní, polskou kontroverzi kolem AI – konkrétně případ (ne)slavné zprávy Poláků portrét vlastní a prof. Barbary Mróz-Gorgoń. Zaráží rozsah reakcí a teplota emocí, které ji provázely. Kromě obvyklého internetového lynče (píši „obvyklého“, neboť v době polarizovaných sociálních médií takové silné reakce nejsou ničím novým), zaznělo mnoho kritických hlasů ze stran akademických kruhů. Mluvčí Konference rektorů akademických škol polských (organizace sdružující vedoucí polských univerzit) požadoval od prof. Mróz-Gorgoń omluvu a označil za nevhodné její slova, že „každý druhý profesor na světě využívá“ umělou inteligenci. Na sociálních fórech jsem četl mnoho kritických hlasů od zástupců akademie, které dokonce hovořily o kompromitaci polského vědního výzkumu.

Odkud taková silná kritika? Abychom na to odpověděli, musíme si uvědomit, co z pohledu vědy jako oblasti tvorby poznatků – a z pohledu vědců jako lidí specializovaných na tvorbu těchto poznatků – je vlastně umělá inteligence.

AI a prestiž ve vědě

Zastánci odpoví, že je to nástroj usnadňující práci. Sám musím přiznat, že z jazykových modelů využívám – především k přehledu literatury, což je úmorný, ale nezbytný proces, pokud chci publikovat v renomovaných anglicky psaných vědeckých časopisech. Jazykové modely výrazně urychlují tento proces, jejich placené verze již téměř nehalucinuji a dokážou vybrat vědecké články k mému tématu, aniž bych musel číst desítky textů, abych našel ty, které přesně odpovídají mému oboru. Umělá inteligence mi také umožňuje překládat do angličtiny to, co jsem napsal, což je důležitá výhoda pro někoho, kdo jako zástupce polovičatého vědeckého prostředí musí konkurovat anglicky mluvícím vědcům ze zemí centra.

Existují i jiné méně kontroverzní využití AI ve vědě, například automatizace sběru dat (například z webových stránek, když někdo analyzuje diskurs) nebo jejich předběžná či hlubší analýza (například tvorbou předběžných klíčů kategorie a kódováním kvalitativních dat). Z jazykových modelů využívají také všichni ti, kteří podávají grantové žádosti – AI se osvědčuje jako asistent, který poradí, jak takovou žádost napsat, aby zvýšil šance na úspěch.

Kritici AI zdůrazňují, že zneužívání jazykových modelů vede k významné inflaci vědecké produkce. Podle jedné analýzy vědec, který využívá nástroje AI, publikuje v průměru třikrát více vědeckých textů a může počítat s téměř čtyřnásobným počtem citací. Jiná analýza ukazuje výrazný nárůst počtu podávaných grantových žádostí v prestižním programu Marie Sklodowska-Curie Actions v letech 2022–2025. To vše způsobuje, že ačkoliv je vědcům snazší napsat text nebo grantovou žádost, rostoucí konkurence činí publikaci a získání grantu stále obtížnější.

Nejlepší vědecké časopisy a nejprestižnější grantové agentury jsou doslova zaplaveny dobře napsanými žádostmi. Tento zvýšený přísun vědeckých poznatků však není doprovázen zvýšenou poptávkou. Nejlepší časopisy publikují stejný počet článků a agentury disponují stejnými rozpočty, takže míra úspěšnosti (poměr přijatých článků či grantových žádostí k zamítnutým) se systematicky snižuje.

Recenze a její význam

K tomu přistupuje otázka recenzí, klíčové aktivity v oblasti publikování výzkumu. Dobré výzkumy musí projít ověřením a být zkontrolovány jinými odborníky v dané oblasti, aby mohly být prezentovány širšímu publiku v odborném článku. Double-blind peer review, tedy anonymní recenze prováděné jinými vědci, je standardem ve většině vědeckých oborů. Inflace vědeckých publikací však vede k tomu, že je stále obtížnější najít čas na pečlivé přečtení vědeckého článku, provedení jeho důkladného hodnocení a napsání recenze (krok za krokem odůvodnění této hodnocení).

Existují důkazy, že jazykové modely jsou často využívány nejen k psaní vědeckých textů, ale také k jejich hodnocení. Můžeme tak čelit situaci, kdy umělá inteligence píše za vědce články a následně je i hodnotí.

Prestiž ve vědě

Všechny tyto negativní jevy jistě mysleli ti, kteří se připojili k téměř jednomyslnému chóru kritiků prof. Mróz-Gorgoń. Nechci zde zpochybňovat jejich dobré úmysly. AI skutečně může být velkým rizikem pro vědu a její nástroje je třeba používat velmi opatrně. Samotná kritika, která padla na spoluautorku zprávy, je do značné míry oprávněná. Nicméně, radikalita této reakce je podivná a možná skrývá jistý nevědomý strach – ne tolik z přímých důsledků technologického rozvoje pro určitou činnost, ale z ztráty statusu.

Moje hypotéza je následující: emoce spojené s případem bývalé mluvčí vlády pro propagaci Polska ve světě jsou výrazem strachu z radikální změny pravidel hry akademické sféry založené na individuální prestiži.

Z pohledu zvenčí vědci dělají to, co dělají, aby nám všem bylo lépe. Vědecké poznání má sloužit zájmům všech lidí (například aby se nám žilo déle, zdravěji a pohodlněji). V klasickém pojetí sociologa Roberta K. Mertona jsou součástí etosu akademického mimo jiné komunálnost a nezištnost, tedy přesvědčení, že poznání je společným dědictvím celé lidskosti a vědecká činnost by měla být poháněna hledáním pravdy, nikoliv prosazováním partikulárních zájmů. To je však do značné míry idealizovaný obraz, na který poukazovalo i mnoho kritiků Mertona.

Nepopírám samozřejmě, že vědci provádějí výzkum pro dobro lidstva. Spíše mi jde o to, že pro ně je velmi důležitou motivací také individuální prestiž. Ta je možná nejdůležitější měnou ve světě vědy. Jak tvrdil jiný, více zakotvený ve skutečnosti sociolog, Pierre Bourdieu, ve vědě, stejně jako v jiných oblastech společenské činnosti, jde o moc. Moc ve vědě závisí na množství prestiže, které se skládá mimo jiné z publikací v prestižních časopisech, projektů financovaných renomovanými grantovými agenturami nebo počtu citací.

Takto získanou prestiž vědci mohou později směňovat za jiné zdroje (například vědec s vysokou prestiží může více vydělávat) nebo s ní hrát ve svém kapitálu, aby dosáhli úspěchu i v mimoakademických kontextech (například vědec s vysokým prestiží se může stát známým mediálním autoritou nebo zapojit se do politiky). Současně je budování této měny, kterou je prestiž, velmi náročné a vyžaduje mnoho obětí, i osobních. Na druhou stranu, uznávaní vědci, tedy ti, kteří již získali hodně prestiže, mají pak snadnější a rychleji dosahují svých životních cílů.

Pro takto chápavou prestiž je velmi důležité přiřadit určité vědecké dílo konkrétní osobě. Prestíž může hrát v poli vědy vždy určitý vědec. Prestíž je něčí, jinak jako měna nemá smysl. Proto vědci věnují tak velkou pozornost přiřazení úspěchu ke konkrétnímu jménu – historie zná mnoho sporů o prvenství nějaké publikace, objevu či patentu. Dalším dobrým příkladem tohoto mechanismu jsou diskuse o pořadí autorů ve vědeckých publikacích – osoba na prvním místě má vždy nejvíce této prestiže, druhá trochu méně a tak dále. Sám jsem byl svědkem nejméně několika vášnivých diskusí o tom, kdo by měl mít přednost v uvedení jména.

Dobrou ukázkou je také již zmíněný spor o prvenství v řešení miléniového problému. Můžeme se ptát – vlastně koho zajímá, kdo tento průlom udělal jako první, když nakonec záleží na přínosu poznatků? Ve vědě však bohužel nejde jen o to. Většina vědců je poháněna touhou něco významného dokázat, aby jejich jméno zapsali do dějin. Můžeme to hodnotit různě, ale takto to často vypadá.

Změna hry o prestiž

A vlastně to tak vypadalo, protože zavedení jazykových modelů do vědy na velkém měřítku redefinuje pravidla akademické hry. AI umožňuje mnohem rychlejší shromažďování prestiže ve formě článků, grantů či citací. Jak jsem již uvedl výše, již nyní dochází k prudkému nárůstu počtu textů zasílaných do špičkových vědeckých časopisů. Vědecký trh vydavatelství se na tyto okolnosti dobře adaptoval – stále větší oblibu si získávají takzvané „kombi časopisy“, které publikují několik desítek textů denně, mají rychlé recenzní procesy a zaručují vysokou citovanost. Taková vydavatelství typu MDPI nebo Frontiers se stávají přirozeným ekosystémem pro vědu podporovanou AI.

Účinnost využívání AI v práci vědy znamená, že cesta k statusu uznávaného vědce se stává stále jednodušší (odhlédnuto od kvality takových poznatků, což je téma na úplně jinou diskusi). V tradičním modelu bylo shromažďování prestiže spíše pomalé. V éře AI však vše urychluje. Vědec může poměrně rychle získat relativně velké zdroje prestiže a hrát s nimi na různých polích, čímž konkuruje těm, kteří „vydělali“ ještě na starých pravidlech.

Jak snadno lze odhadnout, taková situace nevyhnutelně vede ke konfliktu mezi těmi, kteří umí pracovat s jazykovými modely, a tím, kteří si tímto způsobem budují svou pozici ve vědě „zkratkou“, a těmi, jejichž to stálo mnoho obětí a času. Myslím, že s něčím takovým jsme se setkali i v reakci polského akademického prostředí na případ prof. Mróz-Gorgoń.

Samozřejmě, samotná zpráva Poláků portrét vlastní je skvělým příkladem toho, jak s AI nepracovat. Zároveň je to však předzvěst toho, jak by mohla vypadat akademická hra o prestiž v budoucnu a jak ti, kdo dnes tvoří akademickou elitu, nemusí být schopni přizpůsobit se novým pravidlům. Prof. Mróz-Gorgoń je z tohoto pohledu výrazem něčeho, co nepochybně přichází – budoucnosti, která se jeví nejen jako zásadní změna, ale jako něco, co obrací naruby dosavadní hierarchie.

AI a pocit odcizení

AI navíc činí odpověď na otázku „kdo je autorem výzkumu/patentu/objevu/článku“ velmi problematickou, čímž útočí na klíčový – jak jsem psal výše – rozměr akademického prestiže, tedy autorství. V tradičním modelu bylo poměrně jasné – snadno bylo možné přiřadit objevy ke konkrétní osobě. Ačkoliv, jak ukazoval například geniální Ludwik Fleck již téměř sto let zpět, skupiny a kolektivy jsou skutečnými tvůrci vědeckých objevů, podle pravidel akademického pole je však výrok „to já jsem autorem tohoto objevu“ klíčovým krokem ve hře o prestiž.

Znovu vezměme příklad řešení miléniového problému. Dva matematici, kteří naznačili, že OpenAI mohlo „ukrást“ jejich průlom, sami ve své práci využívali jazykové modely. Ty patřily OpenAI, takže možná vědci sami přispěli ke své porážce.

Kdo je autorem průlomu? Ti matematici, kteří pravděpodobně sami nedokázali takové řešení najít, a proto využívali AI? Nebo majitelé OpenAI, kteří možná využili prompty připravené těmi matematiky, aby vylepšili své modely? Nebo sama umělá inteligence? Ale AI přece vychází z dat, která dříve vytvořili lidé, z celého dosavadního vědeckého díla, a prompty také formulují lidé.

AI samozřejmě vychází z vědomostí, které do jazykového modelu vložil člověk, proto nakonec je autorem nápadů, které nám naznačuje LLM, někdo živý. Avšak zde je problém spojený s množstvím odkazů, které AI generuje, a rychlostí jejich přijetí. V tradiční akademické práci vyžaduje přijetí a využívání cizích nápadů čas a v jistém smyslu transformuje toho, kdo z cizích vědeckých děl čerpá. Abych citoval nějaký text, musím ho nejdříve přečíst, pochopit a inspirovat se jím, a následně z něj tvořivě čerpat, což celý proces jaksi mění můj způsob myšlení. Pokud využíváme umělou inteligenci, tento proces se výrazně urychluje, a mechanismus absorpce (přijímám cizí nápady, abych na jejich základě řekl něco svého) v podstatě neprobíhá. Není tedy čas, aby cizí nápady se staly mými vlastními.

To podle mého názoru vytváří pocit odcizení vůči produktu vlastní duševní práce. Pokud píšu článek a AI v něm provádí korekty nebo navrhuje rozšíření, na která bych sám nepřišel, kdo je nakonec autorem tohoto článku? Pokud AI začíná žonglovat s koncepty a teoriemi, které jsem neznal a přijal pouze ze shrnutí, používám je vědomě (tedy v souladu se svými autorskými záměry), nebo se spíše nechávám vést někomu jinému v myšlení? Jak jsem již zdůraznil, myšlenky obsažené v LLM pravděpodobně mají své autory. Nicméně zkušenost s využíváním AI v akademické práci může vést k nepříjemnému pocitu neexistence subjektivity vědce.

V dobách před AI jsem jako vědec myslel, objevoval, prezentoval a zpochybňoval získaný prestiž. V době AI už to tak samozřejmé není. To může vést k existenčním otázkám. Pokud už nejsem jen já ten, kdo myslí, jen já jsem autorem, může vědec ztratit pro svět svůj význam? Možná rozvoj AI v budoucnu – když možnosti jazykových modelů budou mnohem větší než dnes – způsobí neodbytné uvědomění si zbytečnosti. To může být pro intelektuály, pro které je subjektivita a tím i individuální autorství nezbytným prvkem jejich profesní identity, nesnesitelné.

Vraťme se k případu bývalé mluvčí vlády. Prof. Mróz-Gorgoń nejenže porušila určitá pravidla hry o prestiž. Ačkoliv sama hrála roli vyškoleného experta, její příklad ukazuje možnost, že duševní práce takového specialisty není nutná a může být delegována na relativně levné a snadno použitelné zařízení.

Přehnaná reakce na kompromitaci prof. Mróz-Gorgoń možná vyjadřuje strach z budoucnosti, ve které by individuální autorství a subjektivita vědce mohly být přežitkem. Budoucnosti, ve které budou objevy přisuzovány nejen vědcům, ale i korporacím a modelům AI. Budoucnosti, ve které vědecké kariéry (pokud vůbec nějaké budou) nebudou stavět na dosavadních pravidlech. Ve které myšlení, vědění, intelektuální schopnosti přestanou být důležitým ukazatelem společenského statusu.

Všichni jsme Platónem

Abych lépe vysvětlil, na jakém místě jsou dnes vědci (v Polsku i ve světě), odkažme na klíčový přechod v dějinách kultury od orálního předávání k písemnému. Vynález a rozšíření písma byla technologická revoluce, která změnila mnoho aspektů společenského života, od obchodu, přes vědu, po politiku. Ne všichni však byli nadšenci této technologické novinky. Mezi její tvrdé kritiky patřil například i Platón, který považoval písmo za ničí paměť a vystavující filozofy riziku nepochopení (mluvící může obhájit to, co říká; písmo, jednou rozšířené, žije svým vlastním životem mimo kontrolu tvůrce). Postoj Platóna lze číst jako něco víc než prostou technofobii: je to postoj elity, která vidí, že pravidla dosavadních společenských hierarchií jsou brutálně měněna a jeho kompetence již nebudou tak ceněny jako dřív.

Strach, jímž byla poznamenána některá prudká reakce na případ prof. Mróz-Gorgoń, je emocí doprovázející podobný postoj jako u Platóna. Samozřejmě, že existuje mnoho nadšenců AI ve vědě, to nepopírám. Nicméně ve světě akademickém je také mnoho jejích odpůrců, kteří kromě oprávněných výhrad mají obavy ze ztráty vlastního prestiže i důležitých prvků své identity.

Z jedné strany AI pravděpodobně narušuje některé kompetence, činí nás línějšími, možná nás vede do slepé uličky. A již nyní se uvádí, že podnětem pro AI jsou informace generované jím samým, což způsobuje, že celý systém začíná pracovat na prázdno. Na druhou stranu, prudký rozvoj vyvolává strachem podbarvenou negaci, která je jak projevem strachu, tak i pokusem zastavit nevratné (možná) změny, které obracejí dosavadní svět naruby.

**
Michał Wróblewski – sociolog, filozof, pracuje v Ústavu sociologie UMK v Toruni, zabývá se sociologií medicíny a sociologií prostředí. V současnosti vede výzkum skepticismu vůči vakcínám a aktivismu souvisejícího s kvalitou ovzduší. Autor mimo jiné Kdo jsou ti, jejichž strachy? Čí věda? Struktury poznání vůči vědecko-společenským kontroverzím (spolu s A. Nowakiem a K. Abriszewskim, Poznaň 2016), Sociologie epidemií. Vznikající nakažlivé nemoci v perspektivě sociálních věd (spolu s Ł. Afeltowiczem; Toruň 2021).

Článek Umělá inteligence a obavy akademie poprvé vyšel na Kritika Polityczna.