Umjetna inteligencija i strahovi akademije

Na početku rujna tijekom prezentacije novog modela GPT-6 Astra tvrtka OpenAI najavila je nastanak takozvane opće umjetne inteligencije. To bi trebao biti takav stupanj razvoja te tehnologije, koji bi približio jezične modele mogućnostima uma samog čovjeka.

Iako je ta deklaracija naišla i na skepticizam stručnjaka iz AI industrije, daljnji događaji pojačali su emocije oko potencijalnih mogućnosti umjetne inteligencije. Najprije je OpenAI objavio da je njihov jezični model riješio jedan od „milenijskih problema“ (odnosno matematičke izazove od temeljne važnosti za znanost). Potom je na društvenim mrežama odjeknula nova informacija: matematičari, koji su bili blizu rješenja istog problema, a sami su također koristili modele GPT, izrazili su zabrinutost da je objavljeni prelom od strane OpenAI postignut zahvaljujući njihovom radu.

Dodajmo još da se već neko vrijeme sve češće pojavljuju u medijima izjave bivših zaposlenika tvrtke da su modeli koje razvija OpenAI opasni i da bi u budućnosti, kao potpuno autonomni i bez kontrole čovjeka sustavi, mogli ugroziti čovječanstvo.

O temama opasnosti povezanih s razvojem umjetne inteligencije već je zaista mnogo napisano. Napredak u toj oblasti povezan je s ozbiljnim ekološkim tragom, jer podatkovni centri, nužni za treniranje jezičnih modela, zahtijevaju ogromne količine energije i vode. Ispod radara ostaju pitanja privatnosti, budući da korisnici ubacuju u jezične modele što žele – od obiteljskih fotografija do rezultata medicinskih pretraga – a sve to postaje dio moćne magme podataka koje koriste velike tehnološke tvrtke.

Na kraju se povremeno javljaju manje ili više ozbiljna pitanja o sigurnosti i budućnosti – kako implementirati sustave kontrole ako se tako moćna tehnologija razvija od strane privatnih korporacija koje nisu pod nikakvom kontrolom?

Kao sociolog, nisam u stanju procijeniti te opasnosti. Nemam pojma hoćemo li se za 10 godina probuditi u svijetu poput iz Terminatora. Nemam kompetencije procijeniti jesu li upozorenja da nekontrolirani razvoj AI vodi do preuzimanja vlasti nad svijetom od strane jezičnih modela utemeljena na nekim realnim procesima ili su jednostavno izraz tehnofobije karakteristične za vrijeme naučno-tehnoloških prekretnica. Međutim, mogu postaviti pitanje o karakteru tih strahova, jer nam one govore nešto vrlo zanimljivo o društvenim emocijama koje izaziva tehnološki razvoj.

AI i akademija

Ovo je toliko zanimljivo pitanje da smo prije nekoliko tjedana imali vlastitu, poljsku kontroverzu oko AI – točnije, slučaj (ne)slavnog izvještaja Poljaka portret vlastiti i prof. Barbare Mróz-Gorgoń. Zanimljiva je razmjera reakcija i temperatura emocija koje su joj pratile. Osim uobičajenog internet linča (pišem „uobičajenog“, jer u doba polariziranih društvenih medija takve reakcije nisu ništa novo), mnogo kritičkih glasova na račun bivše savjetnice vlade za promociju marke Poljske stiglo je iz akademskih krugova. Glasnogovornik Konferencije rektora akademskih škola Poljske (organizacije koja okuplja čelne ljude poljskih sveučilišta) tražio je od prof. Mróz-Gorgoń isprike i smatrao je neprimjerenim njezine riječi da „što drugi profesor na svijetu koristi” umjetnu inteligenciju. Na društvenim forumima čuo sam mnogo kritičkih glasova s akademskih krugova, koji su govorili čak i o kompromitaciji hrvatske znanosti.

Odakle tolika snažna kritika? Da bismo na to odgovorili, moramo shvatiti što je zapravo umjetna inteligencija s gledišta znanosti kao područja stvaranja znanja – i s gledišta znanstvenika kao ljudi specijaliziranih za stvaranje tog znanja.

AI i akademija

Entuzijasti će odgovoriti da je to alat koji olakšava rad. Ovdje moram priznati da koristim modele jezika – uglavnom za pregled literature, što je zamoran, ali nužan proces ako želiš objavljivati u renomiranim, engleskim znanstvenim časopisima. Jezični modeli znatno ubrzavaju taj proces, njihove plaćene verzije gotovo više ne haluciniraju i mogu odabrati znanstvene članke koji odgovaraju mojoj temi, a ja ne moram čitati desetke tekstova da bih pronašao one koji baš odgovaraju onome čime se bavim. Umjetna inteligencija također mi omogućava prevođenje na engleski ono što sam napisao, što je važna prednost za one koji kao predstavnici poluperifernih znanosti moraju konkurirati engleskim znanstvenicima iz zemalja centra.

Postoje i druge manje kontroverzne primjene AI u znanosti, poput automatizacije prikupljanja podataka (npr. sa stranica interneta, kada netko radi analize diskursa) ili preliminarne ili dublje analize podataka (npr. kreiranjem početnih kategorijskih ključeva i kodiranjem kvalitativnih podataka). S jezičnim modelima koriste se i svi oni koji podnose projekte za financiranje – AI se odlično pokazuje kao asistent koji će savjetovati kako napisati takav zahtjev da bi se povećale šanse za uspjeh.

Kritičari AI ističu da pretjerana uporaba jezičnih modela dovodi do značajne inflacije znanstvene produkcije. Prema jednoj analizi, znanstvenik koji koristi AI alate objavljuje u prosjeku tri puta više znanstvenih radova i može računati na gotovo četiri puta više citata. Druga analiza pokazuje znatan porast broja podnesenih projekata za financiranje u prestižnom programu Marie Sklodowska-Curie u razdoblju od 2022. do 2025. godine. Sve to dovodi do toga da, iako je znanstvenicima lakše napisati tekst ili projektni zahtjev, sve veća konkurencija čini teže objaviti rad ili dobiti financiranje.

Najbolji znanstveni časopisi i najprestižnije agencije za financiranje doslovno su preplavljeni dobro napisanom dokumentacijom. Ova povećana ponuda znanstvenog znanja ne prati povećana potražnja. Najbolji časopisi objavljuju isti broj radova, a agencije raspolažu istim budžetima, zbog čega se stopa uspjeha (odnos prihvaćenih radova ili projekata prema odbijenima) sustavno smanjuje.

Recenzije

Tu je i pitanje recenzija, ključne aktivnosti u objavljivanju istraživanja. Dobra istraživanja moraju proći provjeru i biti ocijenjena od strane drugih stručnjaka u toj oblasti da bi se mogla predstaviti širem auditoriju u znanstvenom članku. Double-blind peer review, odnosno anonimne recenzije koje obavljaju drugi znanstvenici, standard su u većini znanstvenih područja. Inflacija znanstvenih objava ipak dovodi do toga da je sve teže znanstvenicima pronaći vrijeme za pažljivo čitanje znanstvenog rada, njegovu pouzdanu ocjenu i sastavljanje recenzije (korak po korak s obrazloženjem te ocjene).

Postoje dokazi da se jezični modeli često koriste ne samo za pisanje znanstvenih tekstova, već i za njihovu ocjenu. Dakle, imamo situaciju u kojoj umjetna inteligencija piše radove za znanstvenike, a zatim ih i ocjenjuje.

Prestiž u znanosti

Sve te negativne pojave sigurno su mislili oni koji su se pridružili gotovo jednoglasnom zboru kritičara prof. Mróz-Gorgoń. Ne želim dovoditi u pitanje njihove dobre namjere. AI zaista može biti velika prijetnja znanosti, a njezini alati moraju se koristiti izuzetno oprezno. Sama kritika koja je pala na suautoricu izvještaja uglavnom je opravdana. Ipak, radikalnost te reakcije je zabrinjavajuća i možda skriva neki nesvjesni strah – ne toliko od izravnih posljedica tehnološkog napretka za određenu djelatnost, koliko od gubitka statusa.

Moja je hipoteza sljedeća: emocije povezane s pitanjem bivše državne tajnice za promociju Poljske u svijetu odraz su straha od radikalne promjene pravila igre akademske zajednice temeljene na individualnom prestižu.

Sa stajališta izvana, znanstvenici rade ono što rade da bi svima nama bilo bolje. Znanstveno znanje treba služiti interesima svih ljudi (npr. da bismo duže, zdravije i udobnije živjeli). U klasičnom shvaćanju sociologa Roberta K. Mertona, elementi akademskog etosa su između ostalog komunizam i nesebičnost, odnosno uvjerenje da je znanje zajedničko naslijeđe cijelog čovječanstva i da znanstvena djelatnost treba biti vođena težnjom za istinom, a ne ostvarivanjem partikularnih interesa. No, to je uglavnom idealizirani prikaz, na što su ukazivali mnogi kritičari Mertona.

Ne poričem da znanstvenici istražuju za dobro čovječanstva. Međutim, želim istaknuti da im je vrlo važna i osobna reputacija. Ona je možda najvažnija valuta u svijetu znanosti. Kako je tvrdio drugi, realniji sociolog Pierre Bourdieu, u znanosti, kao i u drugim područjima društvene djelatnosti, riječ je o moći. Moć u znanosti ovisi o količini prestiža, koji se sastoji od objava u prestižnim časopisima, projekata financiranih od renomiranih agencija za financiranje ili broja citata.

Tako stečeno priznanje znanstvenici mogu kasnije zamijeniti drugim resursima (npr. znanstvenik s visokim prestižem može više zarađivati) ili ga koristiti kao kapital za postizanje uspjeha i izvan akademije (npr. znanstvenik s visokim prestižem može postati poznat medijski autoritet ili se uključiti u politiku). Istovremeno, skupljanje valute, a to je prestiž, može biti vrlo teško i zahtijevati mnoga odricanja, pa i osobna. S druge strane, ugledni znanstvenici, oni koji su već stekli mnogo prestiža, kasnije lakše i brže ostvaruju životne ciljeve.

Za takav oblik prestiža izuzetno je važno pripisati određeni znanstveni uspjeh konkretnoj osobi. Prestij uvijek može igrati određeni znanstvenik u znanstvenom polju. Prestiž je nečiji, inače kao valuta nema smisla. Zato znanstvenici pridaju veliku važnost pripisivanju uspjeha određenom imenu – povijest poznaje mnoge sporove oko prvobitnosti neke publikacije, otkrića ili patenta. Drugi dobar primjer tog mehanizma su rasprave o redoslijedu autora u znanstvenim radovima – osoba na prvom mjestu uvijek ima najviše tog prestiža, druga nešto manje, i tako dalje. Sam sam bio svjedokom najmanje nekoliko žestokih rasprava o tome čije bi ime trebalo imati prednost.

Dobar primjer je i već spomenuti spor o prvobitnosti rješenja milenijskog problema. Može se, naime, zapitati – koga uopće zanima tko je prvi napravio taj prelom, s obzirom da je na kraju najvažnija akumulacija znanja? U znanosti, nažalost, nije samo o tome. Znanstvenike u velikoj mjeri pokreće želja da učine nešto značajno, što će njihovo ime zabilježiti u povijesti. Možemo to ocijeniti različno, ali često je tako.

Promjena igre o prestižu

A zapravo je tako bilo, jer uvođenje jezičnih modela u znanost na široku razinu redefinira pravila igre u akademiji. AI omogućava mnogo brže stjecanje prestiža u obliku radova, projekata ili citata. Kao što sam ranije naveo, već sada bilježi skokoviti porast broja tekstova koje se šalju u vrhunske znanstvene časopise. Usput, znanstveno izdavačko tržište se dobro prilagodilo tim okolnostima – sve je popularnija takozvana „kombi“ časopisa, koji objavljuju desetak tekstova dnevno, imaju brze recenzentske procese i jamče visoku citiranost. Takvi izdavači poput MDPI ili Frontiers postaju prirodni ekosustav za znanost podržanu AI.

Učinkovitost korištenja umjetne inteligencije u znanstvenom radu čini put do statusa priznatog znanstvenika sve jednostavnijim (ostavljam po strani kvalitetu takvog znanja, to je tema za sasvim drugu raspravu). U tradicionalnom modelu, barem u većini slučajeva, stjecanje prestiža bilo je prilično sporo. U eri AI, sve to ubrzava. Znanstvenik može relativno brzo steći znatne resurse prestiža i njima igrati na raznim poljima, natječući se s onima koji su se „namakli“ na starim načelima.

Kao što je lako zamisliti, takva situacija neizbježno vodi u sukob između onih koji znaju koristiti jezične modele i time grade svoju poziciju u svijetu znanosti „na prečac“, i onih kojima je to zahtijevalo mnogo odricanja i vremena. Mislim da smo s takvim slučajem imali posla u reakciji hrvatskog akademskog okruženja na slučaj prof. Mróz-Gorgoń.

Naravno, sam izvještaj Poljaka portret vlastiti je izvrstan primjer toga kako s AI-jem ne treba koristiti. No, istovremeno, to je i uvod u to kako bi mogla izgledati akademska igra o prestižu u budućnosti i kako oni koji danas čine akademsku elitu možda neće moći prilagoditi se novim pravilima. Prof. Mróz-Gorgoń je s te perspektive izraz nečega što neizbježno dolazi – budućnosti koja se ne samo da predstavlja ozbiljnu promjenu, već i nešto što preokreće postojeće hijerarhije naopačke.

AI i osjećaj isključenosti

AI također čini odgovor na pitanje „tko je autor istraživanja/patenta/otkrića/rada“ izuzetno problematičnim, time pogađajući ključni – kako sam ranije naveo – aspekt akademskog prestiža, odnosno autorstvo. U tradicionalnom modelu, situacija je bila prilično jasna – lako je bilo pripisati otkriće nekoj osobi. Iako je, kako je pokazivao i genijalni Ludwik Fleck već prije gotovo sto godina, skupine i kolektivi stvarni su tvorci znanstvenih otkrića, prema pravilima akademskog polja, izjava „ja sam autor tog otkrića“ je ključni potez u igri za prestiž.

Ponovno uzmimo primjer rješenja milenijskog problema. Dvojica matematičara, koji su sugerirali da je OpenAI možda „ukrala“ njihov prelom, sama su u svom radu koristili jezične modele. Ti modeli pripadali su OpenAI, pa su možda i sami znanstvenici doprinijeli vlastitom neuspjehu.

Tko je autor preokreta? Ti matematičari, koji vjerojatno sami ne bi uspjeli, pa su koristili AI? Ili vlasnici OpenAI, koji su možda iskoristili upite koje su pripremili ti matematičari da poboljšaju svoje modele? Ili sama umjetna inteligencija? No, AI ipak temelji na podacima koje su ranije stvorili ljudi, na čitavom dosadašnjem znanstvenom radu, a i upite formuliše čovjek.

AI naravno temelji na znanju koje je ugradila u jezični model osoba, stoga je na kraju netko živ autor ideja koje nam sugerira LLM. Međutim, ovdje je problem povezan s mnoštvom referenci koje AI generira i brzinom njihovog usvajanja. U tradicionalnom znanstvenom radu, usvajanje i korištenje tuđih ideja zahtijeva vrijeme i na neki način transformira onoga tko koristi tuđa znanstvena dostignuća. Da bih citirao neki tekst, prvo ga moram pročitati, razumjeti i inspirirati se njime, a zatim ga kreativno iskoristiti, čime se cijeli proces na neki način transformira moj način razmišljanja. Ako koristimo umjetnu inteligenciju, taj proces se znatno ubrzava, a mehanizam apsorpcije (prihvaćam tuđu ideju da bih na temelju nje rekao nešto svoje) praktički ne postoji. Dakle, nema vremena da tuđe ideje postanu moje vlastite.

To, po mom mišljenju, stvara osjećaj isključenosti od proizvoda vlastitog intelektualnog rada. Ako pišem rad, a AI ga korektira ili predlaže proširenja na koja sam ne bi došao, tko je u konačnici autor tog rada? Ako AI počne manipulirati koncepcijama i teorijama koje nisam poznavao i usvojio samo iz sažetaka, jesam li ih svjesno koristio (to jest, u skladu sa svojim autorskim namjerama), ili se više vodim tuđim mislima kao po konopu? Kao što sam ranije istaknuo, ideje koje kruže u LLM-ovima vjerojatno imaju svoje autore i autorice. Ipak, iskustvo korištenja AI u akademskom radu može dovesti do neugodne osjećaja nedostatka subjektivnosti za znanstvenike.

U vremenima prije AI, ja kao znanstvenik sam razmišljao, otkrivao, prezentirao i diskontirao stečeni prestiž tijekom karijere. U eri AI to više nije tako očito. To može dovesti do egzistencijalnih pitanja. Ako više nisam samo ja taj koji misli, otkriva, dokazuje i stječe prestiž, je li možda znanost uopće potrebna svijetu? Možda će razvoj AI u budućnosti – kada mogućnosti jezičnih modela budu mnogo veće nego danas – izazvati nepobjediv osjećaj suvišnosti. To može biti teško podnijeti za intelektualce za koje je subjektivnost, a time i individualno autorstvo kao sastavni dio prestiža, važan element njihove profesionalne identiteta.

Vratimo se na slučaj bivše državne tajnice. Prof. Mróz-Gorgoń nije samo prekršila određena pravila igre o prestižu. Iako je sama igrala ulogu obučenog stručnjaka, njezin primjer pokazuje mogućnost da intelektualni rad takvog stručnjaka nije nužan i da ga može delegirati relativno jeftino i lako dostupno uređaje.

Pretjerana reakcija na kompromitaciju prof. Mróz-Gorgoń možda izražava strah od budućnosti u kojoj će individualno autorstvo i subjektivnost znanstvenika postati zastarjeli. Budućnosti u kojoj će otkrića biti pripisivana ne samo znanstvenicima, već i korporacijama i modelima AI. Budućnosti u kojoj znanstvene karijere (ako će ih uopće biti) neće se graditi na dosadašnjim načelima. U kojoj će razmišljanje, znanje, intelektualne kompetencije prestati biti važan pokazatelj društvenog statusa.

Svi smo Platon

Da bismo bolje objasnili na kojoj se točno poziciji danas nalaze znanstvenici (u Hrvatskoj i svijetu), vrijedi se osloniti na ključni prijelaz u povijesti kulture od usmenosti do pismenosti. Otkrivanje i širenje pisma bilo je tehnološka revolucija koja je promijenila mnoge aspekte društvenog života, od trgovine, preko znanosti, do politike. No, nisu svi bili entuzijasti te novosti. Među njegovim oštrim kritičarima bio je i Platon, koji je smatrao da pismo uništava pamćenje i izlaže filozofe riziku nerazumijevanja (govornik može obraniti ono što govori; pismo, jednom pušteno u komunikaciju, živi svojim životom, izvan kontrole tvorca). Postavu Platona možemo shvatiti kao nešto više od jednostavne tehnofobije: to je stav predstavnika elite, koji vidi da se pravila dosadašnjih društvenih hijerarhija brutalno mijenjaju, a njegove kompetencije više neće biti toliko cijenjene kao nekada.

Strah, koji je bio prisutan u nekim žestokim reakcijama na slučaj prof. Mróz-Gorgoń, jest emocija koja prati sličan stav kao kod Platona. Naravno, postoje i mnogi entuzijasti AI u znanosti, ne poričem to. No, u akademskom svijetu također je mnogo protivnika, koji osim opravdanih zamjerki, strahuju od gubitka vlastitog prestiža i važnih dijelova svoje identitetske strukture.

S jedne strane, AI sigurno narušava neke kompetencije, može nas učiniti lijenima, možda nas vodi u slijepi put. Već sada se ističe da se podaci koje AI generira koriste kao hrana za AI, zbog čega cijeli sustav počinje raditi na suhoj vodi. S druge strane, brz razvoj izaziva strahom prožete negacije, koja je i izraz straha i pokušaj zaustavljanja nepovratnih (možda) promjena koje preokreću svijet naopačke.

**
Michał Wróblewski – sociolog, filozof, radi na Institutu za sociologiju Sveučilišta u Torontu, bavi se sociologijom medicine i sociologijom okoline. Trenutno provodi istraživanja o skepticizmu prema cjepivima i aktivizmu vezanom uz kvalitetu zraka. Autor npr. Tko su naši strahovi? Čija je znanost? Strukture znanja u odnosu na znanstveno-socijalne kontroverze (s A. Nowakom i K. Abriszewskim, Poznań 2016), Sociologija epidemija. Izlazne zarazne bolesti u perspektivi društvenih znanosti (s L. Afeltowiczem; Toruń 2021).

Objava Umjetna inteligencija i strahovi akademije prvi se put pojavila na Kritika Politička.