Umelec inteligencia a obavy akadémie

Na začiatku septembra počas prezentácie nového modelu GPT-6 Astra spoločnosť OpenAI oznámila vznik takzvanej všeobecnej umelej inteligencie. Malo by ísť o takú úroveň rozvoja tejto technológie, ktorá by priblížila jazykové modely k mentálnym schopnostiam samotného človeka.

Hoci toto vyhlásenie stretlo aj s skepticizmom zo strany expertov z AI odvetvia, ďalšie udalosti zvýšili emócie okolo potenciálnych možností umelej inteligencie. Najskôr OpenAI oznámilo, že ich jazykový model vyriešil jeden z „miléniových problémov“ (teda základné matematické úlohy s významom pre vedu). Neskôr sa na sociálnych sieťach objavila nová informácia: matematici, ktorí boli blízko vyriešenia toho istého problému, a tiež pri tom využívali modely GPT, vyjadrili obavy, že oznámený prelom spoločnosti OpenAI sa uskutočnil vďaka ich práci.

Pridajme ešte, že už nejaký čas sa čoraz častejšie objavujú v médiách vyhlásenia bývalých zamestnancov firmy, že vytvárané modely spoločnosti OpenAI sú nebezpečné a v budúcnosti, ako plne autonómne a bez kontroly človeka systémy, môžu ohroziť ľudstvo.

O témach súvisiacich s rizikami rozvoja umelej inteligencie sa už napísalo naozaj veľa. Pokrok v tejto oblasti je spojený s vážnym environmentálnym odtlačkom, keďže dátové centrá, nevyhnutné na tréning jazykových modelov, vyžadujú obrovské množstvá energie a vody. Ostávajú nezodpovedané otázky o súkromí, keďže používatelia vkladajú do jazykových modelov čokoľvek – od rodinných fotografií po výsledky lekárskych vyšetrení – a všetko sa stáva súčasťou mocnej magmy dát, z ktorých čerpajú veľké technologické firmy.

Občas sa objavujú menej, inokedy viac vážne otázky o bezpečnosti a budúcnosti – ako zaviesť systémy kontroly, ak taká mocná technológia je vyvíjaná súkromnými korporáciami, ktoré nie sú pod žiadnou kontrolou?

Ako sociológ nemôžem tieto riziká posúdiť. Nemám predstavu, či sa o desať rokov neprebudíme v svete ako z Terminátora. Nemám kompetencie na posúdenie, či sú varovania, že nekontrolovaný rozvoj AI povedie k prevzatiu moci nad svetom jazykovými modelmi, zakotvené v nejakých reálnych procesoch, alebo sú len prejavom technofóbie charakteristickej pre obdobia prelomov vedy a techniky. Môžem však položiť otázku o charakter týchto obáv, pretože nám hovoria niečo veľmi zaujímavé o spoločenských emóciách, ktoré rozvoj technológií vyvoláva.

AI a akademická obec

Je to tak zaujímavá téma, že pred niekoľkými týždňami sme mali vlastnú, poľskú kontroverziu okolo AI – konkrétne prípad (ne)slávneho správy Poliaci vlastný portrét a prof. Barbary Mróz-Gorgoń. Zaujímavá je veľkosť reakcie a teplota emócií, ktoré ju sprevádzali. Okrem bežného internetového lynču (píšem „bežného“, pretože v dobe polarizovaných sociálnych médií také silné reakcie nie sú ničím novým), veľa kritických hlasov voči bývalej splnomocnenkyni vlády pre propagáciu značky Poľsko zaznelo zo strany akademických kruhov. Riaditeľ Konferencie rektorov akademických škôl Poľska (organizácie združujúcej vedúcich poľských univerzít) požadoval od prof. Mróz-Gorgoń ospravedlnenie a považoval za nevhodné jej slová, že „čo druhý profesor na svete využíva“ umelú inteligenciu. Na sociálnych fórach som čítal veľa kritických hlasov zo strany akademikov, ktoré dokonca hovorili o kompromitácii slovenskej vedy.

Odkiaľ taká silná kritika? Aby sme na túto otázku mohli odpovedať, musíme si uvedomiť, čo vlastne je umelá inteligencia z pohľadu vedy ako oblasti tvorby poznatkov – a z pohľadu vedcov ako ľudí špecializovaných na tvorbu týchto poznatkov.

Entuziasti odpovedia, že je to nástroj uľahčujúci prácu. Tu musím priznať, že z jazykových modelov využívam – hlavne na prehľad literatúry, čo je zdĺhavý, ale nevyhnutný proces, ak chce človek publikovať v renomovaných anglicky písaných vedeckých časopisoch. Jazykové modely výrazne zrýchľujú tento proces, ich platené verzie takmer už nehalucinuju a dokážu vybrať vedecké články k zaujímavej téme, a ja nemusím čítať desiatky textov, aby som našiel niekoľko tých, ktoré práve zodpovedajú môjmu zameraniu. Umelá inteligencia mi tiež umožňuje preložiť do angličtiny to, čo som napísal, čo je dôležitá výhoda pre toho, kto ako zástupca poloperiférnej vedy musí konkurovať anglicky hovoriacim vedcom zo stredových krajín.

Existujú aj ďalšie menej kontroverzné využitia AI vo vede, ako je automatizácia zberu dát (napríklad zo stránok internetu, keď niekto analyzuje diskurz) alebo ich predbežná či hlbšia analýza (napríklad tvorbou základných kľúčov kategorizácie a kódovaním kvalitatívnych dát). Z jazykových modelov využívajú aj tí, čo podávajú grantové žiadosti – AI sa výborne hodí ako asistent, ktorý poradí, ako takú žiadosť napísať, aby zvýšil šance na úspech.

Kritici AI zdôrazňujú, že zneužívanie jazykových modelov vedie k významnej inflácii vedeckej produkcie. Podľa jednej z analýz vedec, ktorý využíva nástroje AI, publikuje v priemere trikrát viac vedeckých textov a môže sa tešiť na takmer štyrikrát viac citácií. Iná ukazuje významný nárast počtu podávaných grantových žiadostí v prestížnom programe Marie Sklodowska-Curie Actions v rokoch 2022–2025. To všetko spôsobuje, že hoci je pre vedcov jednoduchšie napísať text alebo grantovú žiadosť, rastúca konkurencia spôsobuje, že je čoraz ťažšie taký text publikovať a získať grant.

Najlepšie vedecké časopisy a najprestížnejšie grantové agentúry sú takmer zaplavené dobre napísanými žiadosťami. Tento zvýšený dopyt po vedeckých poznatkoch nie je sprevádzaný zvýšenou požiadavkou. Najlepšie časopisy publikujú rovnaký počet článkov, a agentúry majú rovnaké rozpočty, takže miera úspešnosti (pomerný podiel prijatých článkov alebo grantových žiadostí k zamietnutým) sa systematicky znižuje.

K tomu prispieva aj otázka recenzií, kľúčovej aktivity v oblasti publikovania výskumu. Dobré výskumy musia prejsť overením a byť skontrolované inými odborníkmi v danej oblasti, aby mohli byť prezentované širšiemu publiku v článku. Double-blind peer review, teda anonymné recenzie vykonávané inými vedcami, je štandardom vo väčšine vedeckých disciplín. Inflácia vedeckých publikácií však spôsobuje, že je čoraz ťažšie vedcom nájsť čas na dôkladné prečítanie článku, jeho objektívne hodnotenie a napísanie recenzie (krok za krokom odôvodnenie hodnotenia).

Existujú dôkazy, že jazykové modely sú často využívané nielen na písanie vedeckých textov, ale aj na ich hodnotenie. Ide teda o situáciu, keď umelá inteligencia píše za vedcov články a následne ich aj hodnotí.

Prestíž vo vede

Všetky tieto negatívne javy určite mysleli tí, ktorí sa pridali k takmer jednomyseľnému chóru kritikov prof. Mróz-Gorgoń. Nechcem v tomto mieste spochybniť ich dobré úmysly. AI naozaj môže predstavovať veľkú hrozbu pre vedu, a jej nástroje treba využívať mimoriadne opatrne. Samotná kritika, ktorá padla na spoluracovníčku správy, je do veľkej miery opodstatnená. Napriek tomu je však radikálnosť tejto reakcie zaujímavá a možno skrýva určitý neúplne uvedomovaný strach – nie tak z priameho dopadu technologického rozvoja na určitú činnosť, ale zo straty statusu.

Moja hypotéza je nasledovná: emócie spojené s prípadom správy bývalej hovorkyne vlády pre propagáciu Poľska vo svete sú prejavom strachu z radikálnej zmeny pravidiel hry akademickej sféry založenej na individuálnej prestíži.

Z pohľadu osoby zvonku vedci robia to, čo robia, aby nám všetkým bolo lepšie. Vedecké poznatky majú slúžiť záujmom všetkých ľudí (napríklad, aby sme žili dlhšie, zdravšie a pohodlnejšie). V klasickom pohľade sociológa Roberta K. Mertona sú súčasťami akademického etosu okrem iného komunálnosť a nezištnosť, teda presvedčenie, že poznanie je spoločným dedičstvom celej ľudstva a vedecká činnosť by mala byť poháňaná hľadaním pravdy, nie realizáciou osobných záujmov. Ide však o do veľkej miery idealizovaný obraz, na čo poukazovalo aj mnoho kritikou Mertona.

Nepopieram, že vedci vykonávajú výskum pre dobro ľudstva. Skôr mi ide o to, že pre nich je mimoriadne dôležitou motiváciou aj individuálna prestíž. Tá je možno najdôležitejšou menou vo svete vedy. Ako tvrdil iný, pevnejšie zakorenený v realite sociológ, Pierre Bourdieu, vo vede, rovnako ako v iných oblastiach spoločenskej činnosti, ide o moc. Moc vo vede závisí od množstva prestíže, na ktorú sa skladajú okrem iného publikácie v prestížnych časopisoch, projekty financované renomovanými grantovými agentúrami či počet citácií.

Takto získanú prestíž môžu vedci neskôr vymieňať za iné zdroje (napríklad, vedec s vysokou prestížou môže viac zarábať) alebo hrať svojím kapitálom, aby dosiahli úspech aj v mimoakademickom prostredí (napríklad, vedec s vysokou prestížou sa môže stať známym mediálnym autoritou alebo zapojiť sa do politiky). Súčasne je však budovanie hodnoty, akou je prestíž, veľmi náročné a vyžaduje si veľa obetí, vrátane osobných. Na druhej strane, uznávaní vedci, teda tí, ktorí už získali veľa prestíže, majú potom jednoduchšie a rýchlejšie dosahujú životné ciele.

Pre takto chápanú prestíž je mimoriadne dôležité priradiť konkrétnemu človeku určitý vedecký úspech. Prestíž môže hrať v oblasti vedy vždy určitý vedec. Prestíž je jeho, inak ako mena nemá zmysel. Preto vedci prikladajú takú veľkú váhu priradeniu úspechu k danému menu – história pozná mnoho sporov o prvenstvo v publikácii, objave či patente. Iným dobrým príkladom tohto mechanizmu sú diskusie o poradí autorov vo vedeckých publikáciách – osoba na prvom mieste má vždy najviac prestíže, druhá trochu menej a tak ďalej. Svedčil som o tom aspoň niekoľkokrát, čiže o tom, kto by mal mať prvenstvo v mene.

Dobrou ukážkou je aj spomenutý spor o prvenstvo v riešení miléniového problému. Môžeme sa opýtať – koho vlastne zaujíma, kto urobil tento prelom prvý, keďže na konci dňa ide o nárast poznania? Veda však bohužiaľ nie je len o tom. Vedcov poháňa do veľkej miery túžba niečo významné dokázať, čo spôsobí, že ich meno bude zapísané do dejín. Môžeme to hodnotiť rôzne, ale takto to často vyzerá.

Zmena hry o prestíž

A vlastne to tak bolo, pretože zavedenie jazykových modelov do vzdelávania na veľkú mieru redefinuje pravidlá akademickej hry. AI umožňuje oveľa rýchlejšie získavať prestíž vo forme článkov, grantov či citácií. Ako som už uviedol vyššie, už teraz dochádza k skokovému nárastu počtu textov zasielaných do špičkových vedeckých časopisov. Vedecký trh vydavateľstiev sa na tieto okolnosti dobre prispôsobil – čoraz väčšiu popularitu majú tzv. kombajnové časopisy, ktoré publikujú niekoľko desiatok textov denne, majú rýchle recenzné procesy a zaručujú vysokú citovanosť. Také vydavateľstvá ako MDPI či Frontiers sa stávajú prirodzeným ekosystémom pre vedu podporovanú AI.

Účinnosť využívania AI v práci vedca teda spôsobuje, že cesta k statusu uznávaného vedca sa stáva čoraz jednoduchšou (neberiem do úvahy kvalitu takých poznatkov, to je téma na úplne inú diskusiu). V tradičnom modeli, aspoň vo väčšine prípadov, bolo získavanie prestíže skôr pomalé. V ére AI však všetko zrýchľuje. Vedec môže pomerne rýchlo získať relatívne veľké zdroje prestíže a hrať nimi na rôznych frontoch, čím konkuruje tým, ktorí si „zarobili“ ešte na starých pravidlách.

Ako ľahko sa dá domyslieť, takáto situácia nevyhnutne vedie ku konfliktu medzi tými, ktorí vedia pracovať s jazykovými modelmi, a tým, ktorí si takto budujú svoju pozíciu vo svete vedy „na skratky“, a tými, ktorým to stálo veľa obetí a času. Myslím, že s niečím takým sme mali do činenia aj v reakcii poľského akademického prostredia na prípad prof. Mróz-Gorgoń.

Samozrejme, samotný správa Poliaci vlastný portrét je vynikajúcim príkladom toho, ako sa AI nemá využívať. Zároveň však ide o predohru toho, ako môže vyzerať akademická hra o prestíž v budúcnosti a ako tí, čo dnes tvoria akademickú elitu, nemusia byť schopní prispôsobiť sa novým pravidlám. Prof. Mróz-Gorgoń je z tohto pohľadu prejavom niečoho, čo nepochybne prichádza – budúcnosti, ktorá sa javí nielen ako vážna zmena, ale ako niečo, čo obráti naruby doterajšie hierarchie.