Veštačka inteligencija i strahovi akademije

Na početku septembra tokom prezentacije novog modela GPT-6 Astra kompanija OpenAI je najavila nastanak takozvane opšte veštačke inteligencije. To bi bio taj nivo razvoja ove tehnologije, koji bi približio jezičke modele mogućnostima uma samog čoveka.

Iako je ova deklaracija naišla i na skepticizam od strane stručnjaka iz AI industrije, dalje događaji su pojačali emocije oko potencijalnih mogućnosti veštačke inteligencije. Prvo je OpenAI objavio da je njihov jezički model rešio jedan od „milenijumskih problema“ (odnosno matematičke izazove od fundamentalnog značaja za nauku). Zatim je na društvenim mrežama odjeknula nova informacija: matematičari, koji su bili blizu rešenja istog problema, a koji su i sami koristili modele GPT, izrazili su zabrinutost da je objavljeni prelom od strane OpenAI postignut zahvaljujući njihovom radu.

Dodajmo još da se već duže vreme sve češće pojavljuju u medijima izjave bivših zaposlenih u kompaniji da su modeli koje pravi OpenAI opasni i da bi u budućnosti, kao potpuno autonomni i bez kontrole čoveka sistemi, mogli ugroziti čovečanstvo.

O većoj opasnosti od razvoja veštačke inteligencije već je zaista mnogo napisano. Napredak u ovoj oblasti povezan je sa ozbiljnim ekološkim uticajem, jer data centri, neophodni za treniranje jezičkih modela, zahtevaju ogromne količine energije i vode. Pitanja privatnosti ostaju bez odgovora, s obzirom da korisnici ubacuju u jezičke modele bilo šta – od porodičnih fotografija do rezultata medicinskih analiza – i sve to postaje deo moćne mase podataka koju koriste velike tehnološke kompanije.

Na kraju se ponekad postavljaju manje ili više ozbiljna pitanja o bezbednosti i budućnosti – kako implementirati sisteme kontrole, ako se tako moćna tehnologija razvija od strane privatnih korporacija koje nisu pod nikakvom kontrolom?

Kao sociolog, nisam u stanju da procenim te pretnje. Nemam pojma da li ćemo za 10 godina probuditi se u svetu kakav je prikazan u Terminatoru. Nemam kompetencije da procenim da li su upozorenja da nekontrolisani razvoj AI može dovesti do preuzimanja vlasti nad svetom od strane jezičkih modela zasnovana na realnim procesima ili su jednostavno izraz tehnofobije karakteristične za vreme naučno-tehnoloških prelomnih trenutaka. Međutim, mogu da pitam o karakteru tih strahova, jer nam one govore nešto veoma interesantno o društvenim emocijama koje izaziva tehnološki razvoj.

AI i akademija

Ovo je posebno zanimljivo pitanje, jer smo pre samo nekoliko nedelja imali sopstvenu, poljsku kontroverzu oko AI – naime slučaj (ne)slavnog izveštaja Poljaka portret lični i prof. Barbare Mroż-Gorgoń. Zanimljiva je skala reakcija i temperatura emocija koje su joj pratile. Osim uobičajenog internet linča (pišem „uobičajenog“, jer u dobu polarizovanih društvenih mreža takve reakcije nisu ništa novo), mnogo kritičkih glasova na račun bivše punomoćnice vlade za promociju marke Poljske stiglo je iz akademskih krugova. Rukovodilac Konferencije rektora akademskih škola Poljske (organizacije koja okuplja čelne ljude poljskih univerziteta) zahtevao je od prof. Mroż-Gorgoń izvinjenje i smatrao je neprimerenim njene reči da „svaki drugi profesor na svetu koristi” veštačku inteligenciju. Na forumima društvenih mreža čuo sam mnogo kritičkih glasova sa strane akademije, koji su govorili čak i o kompromitaciji poljske nauke.

Odakle tolika snažna kritika? Da bismo odgovorili na to pitanje, moramo shvatiti šta je zapravo veštačka inteligencija, iz perspektive nauke kao oblasti stvaranja znanja – i iz perspektive naučnika kao ljudi koji su specijalizovani za stvaranje tog znanja.

AI i akademija

Entuzijasti će reći da je to alat koji olakšava rad. I ja moram priznati da koristim modele jezika – uglavnom za pregled literature, što je zamoran, ali neophodan proces ako želiš da objavljuješ u renomiranim, anglojezičnim naučnim časopisima. Jezički modeli značajno ubrzavaju taj proces, njihove plaćene verzije gotovo da više ne haluciniraju i mogu da pronađu naučne članke koji odgovaraju mom interesovanju, a ja ne moram da čitam desetine tekstova da bih pronašao nekoliko onih koji baš odgovaraju onome čime se bavim. Veštačka inteligencija mi omogućava i prevod na engleski ono što sam napisao, što je važna prednost za nekoga ko kao predstavnik poluperifernih nauka mora da konkuriše sa naučnicima iz zemalja centra.

Postoje još i druge manje kontroverzne primene AI u nauci, poput automatizacije prikupljanja podataka (npr. sa internet stranica, kada neko radi analize diskursa) ili preliminarne ili dublje analize podataka (npr. kreiranjem preliminarnih kategorijskih ključeva i kodiranjem kvalitativnih podataka). Sa modelima jezika koriste se i svi oni koji sastavljaju grant aplikacije – AI se odlično pokazuje kao asistent koji će predložiti kako napisati takav zahtev da bi se povećale šanse za uspeh.

Kritičari AI ističu da prekomerna upotreba jezičkih modela dovodi do značajne inflacije naučne produkcije. Prema jednoj analizi, naučnici koji koriste AI alate objavljuju u proseku tri puta više naučnih tekstova i mogu da računaju na gotovo četiri puta više citata. Druga analiza pokazuje znatno povećanje broja podnetih grant zahteva u prestižnom programu Marie Sklodowska-Curie Actions u periodu od 2022. do 2025. godine. Sve to dovodi do toga da, iako je naučnicima lakše da napišu tekst ili grant zahtev, sve veća konkurencija otežava objavljivanje i dobijanje granta.

Najbolji naučni časopisi i najprestižnije agencije za finansiranje grantova doslovno su preplavljeni dobro napisanom dokumentacijom. Ova povećana ponuda naučnog znanja ne prati povećana potražnja. Najbolji časopisi objavljuju isti broj radova, a agencije imaju iste budžete, pa se stopa uspeha (odnos prihvaćenih radova ili grant zahteva u odnosu na odbijene) sistematski smanjuje.

Recenzije

Takođe, postoji i pitanje recenzija, ključne aktivnosti u procesu objavljivanja istraživanja. Dobra istraživanja moraju proći verifikaciju i biti proverena od strane drugih stručnjaka u datoj oblasti, da bi mogla biti predstavljena široj javnosti u naučnom radu. Double-blind peer review, odnosno anonimne recenzije od strane drugih naučnika, standard su u većini naučnih oblasti. Inflacija naučnih publikacija dovodi do toga da je sve teže naučnicima pronaći vreme za pažljivo čitanje naučnog rada, njegovu pouzdanu ocenu i sastavljanje recenzije (korak po korak, obrazloženje te ocene).

Međutim, postoje dokazi da se modeli jezika često koriste i za ocenu radova. Dakle, imamo situaciju u kojoj veštačka inteligencija piše naučne radove za naučnike, a zatim ih i ocenjuje.

Prestiž u nauci

Sve ove negativne pojave sigurno su bile u mislima onih koji su se pridružili gotovo jednoglasnom nizu kritičara prof. Mroż-Gorgoń. Ne želim da dovodim u pitanje njihove dobre namere. AI zaista može biti veliki pretnja nauci, i sa njenim alatima treba biti izuzetno oprezan. Sama kritika koja je pala na suautorku izveštaja uglavnom je opravdana. Ipak, radikalnost te reakcije je zabrinjavajuća i možda skriva neki nesvesni strah – ne toliko od direktnih posledica tehnološkog razvoja za određenu delatnost, već od gubitka statusa.

Moja hipoteza je sledeća: emocije povezane sa slučajem bivše državne predstavnice za promociju Poljske u svetu odraz su straha od radikalne promene pravila igre u akademskoj zajednici zasnovane na ličnom prestižu.

Sa stanovišta spoljnog posmatrača, naučnici rade ono što rade da bi svima bilo bolje. Naučno znanje treba služiti interesima svih ljudi (npr. da bismo duže, zdravije i udobnije živeli). U klasičnoj sociološkoj teoriji Roberta K. Mertona, elementi akademskog etosa su između ostalog komunijalizam i bezinteresnost, odnosno uverenje da je znanje zajedničko nasleđe čitavog čovečanstva, a naučna delatnost treba biti vođena težnjom ka istini, a ne ostvarivanjem partikularnih interesa. Međutim, to je uglavnom idealizovani prikaz, na šta je ukazivalo i mnogo kritičara Mertona.

Naravno, ne osporavam da naučnici rade istraživanja za dobro čovečanstva. Više mi je u fokusu to da je za njih veoma važna i lična prestiž. On je možda najvažnija valuta u svetu nauke. Kako je tvrdio drugi, realniji sociolog, Pierre Bourdieu, u nauci, kao i u drugim oblastima društvene aktivnosti, reč je o moći. Moć u nauci zavisi od količine prestiža, koji se sastoji od objava u prestižnim časopisima, projekata finansiranih od renomiranih agencija za grantove ili broja citata.

Tako stečeni prestiž naučnici mogu kasnije zameniti drugim resursima (npr. naučnik sa visokim prestižem može više zarađivati) ili ga koristiti kao kapital za uspeh u vanakademskim kontekstima (npr. naučnik sa visokim prestižem može postati poznat medijski autoritet ili se uključiti u politiku). Istovremeno, skupljanje valute, kakva je prestiž, može biti izuzetno teško i zahtevno odricanja, uključujući i lična. Sa druge strane, ugledni naučnici, oni koji su već stekli mnogo prestiža, kasnije lakše i brže ostvaruju svoje životne ciljeve.

Za takav prestiž je od izuzetne važnosti da se određeni naučni dostignući pripišu baš određenoj osobi. Prestigijum u nauci uvek može biti pripisan nekom naučniku. Prestigijum je tuđi, inače kao valuta nema smisla. Zato naučnici pridaju veliku važnost da se dostignuće pripiše baš njihovom imenu – istorija je poznata po mnogim sporovima oko prvobitnosti neke publikacije, otkrića ili patenta. Drugi dobar primer ovog mehanizma su diskusije o redosledu autora u naučnim radovima – osoba na prvom mestu uvek ima najviše prestiža, druga nešto manje, i tako dalje. Bio sam svedok najmanje nekoliko žestokih rasprava o tome čije ime treba da bude prvo.

Dobar primer je i već pomenuti spor oko prvobitnosti rešenja milenijumskog problema. Može se zapitati – koga uopšte zanima ko je prvi napravio taj prelom, ako je na kraju krajeva najvažnija akumulacija znanja? U nauci, nažalost, nije samo to u pitanju. Naučnike najviše pokreće želja da učine nešto značajno, što će njihovim imenima obeležiti istoriju. Možemo to različito oceniti, ali često je tako.

Promena igre o prestižu

A zapravo je tako bilo, jer implementacija jezičkih modela u nauku na širokom nivou redefiniše pravila igre u akademskoj zajednici. AI omogućava mnogo brže sticanje prestiža u obliku radova, grantova ili citata. Kao što sam ranije naveo, već sada je zabeležen skok u broju tekstova koje šalju vrhunski časopisi. Naučno izdavaštvo se, uzgred, dobro prilagodilo tim okolnostima – sve je veća popularnost takozvanih „kombi“ časopisa, koji objavljuju po nekoliko tekstova dnevno, imaju brze recenzentske procese i garantuju visoku citiranost. Časopisi poput MDPI ili Frontiers postaju prirodni ekosistem za nauku podržanu AI.

Efikasnost korišćenja veštačke inteligencije u naučnom radu čini da je put do statusa priznatog naučnika sve lakši (ne razmatrajući kvalitet takvog znanja, to je tema za drugu diskusiju). U tradicionalnom modelu, bar u većini slučajeva, sticanje prestiža bilo je sporo. U eri AI, sve to ubrzava. Naučnik može relativno brzo steći znatne resurse prestiža i koristiti ih na raznim poljima, takmičeći se sa onima koji su „zaradili“ na starim pravilima.

Kao što je lako zamisliti, takva situacija neizbežno vodi u sukob između onih koji umeju da koriste jezičke modele i grade svoju poziciju u svetu nauke „na prečac“, i onih kojima je to oduzelo mnogo odricanja i vremena. Verovatno smo svedoci takvog sukoba u slučaju reakcije poljskog akademskog okruženja na slučaj prof. Mroż-Gorgoń.

Naravno, sam izveštaj Poljaka portret lični je odličan primer toga kako se ne koristi AI. Ipak, to je i uvod u to kako bi mogla izgledati akademska igra o prestižu u budućnosti i kako oni koji danas čine akademsku elitu možda neće moći da se prilagode novim pravilima. Prof. Mroż-Gorgoń je odraz nečega što neizbežno dolazi – budućnosti koja se ne samo da donosi velike promene, već i preokreće postojeće hijerarhije.

AI i osećanje isključenosti

AI takođe čini da je odgovor na pitanje „ko je autor istraživanja/patenta/otkrića/rada“ izuzetno problematičan, što pogađa ključni – kako sam već naveo – aspekt akademskog prestiža, a to je autorstvo. U tradicionalnom modelu, situacija je bila prilično jasna – lako je bilo pripisati otkriće nekoj osobi. Iako je, kako je već pokazivao genijalni Ludwik Fleck pre gotovo sto godina, grupa i kolektiv pravi su tvorci naučnih otkrića, u skladu sa pravilima akademskog polja, izjava „ja sam autor ovog otkrića“ je ključni potez u igri za prestiž.

Ponovo uzmimo primer rešenja milenijumskog problema. Dvojica matematičara, koji su sugerisali da je OpenAI možda „ukrala“ njihov prelom, u svom radu su se oslanjali na jezičke modele. Ti modeli su pripadali OpenAI, pa su možda naučnici sami doprineli svojoj porazu.

Ko je autor preokreta? Ovi matematičari, koji verovatno sami ne bi mogli da ga ostvare, pa su koristili AI? Ili vlasnici OpenAI, koji su možda iskoristili promptove koje su pripremili ti matematičari da unaprede svoje modele? Ili sama veštačka inteligencija? Ali, AI zasniva na podacima koje su ranije kreirali ljudi, na celokupnom naučnom doprinosu, a promptove takođe formuliše čovek.

AI svakako zasniva na znanju koje je ugradila u model čovek, pa je na kraju neko živ autor ideja koje nam sugeriše LLM. Međutim, ovde je problem u mnoštvu referenci koje AI generiše i brzini njihovog usvajanja. U tradicionalnom naučnom radu, usvajanje i korišćenje tuđih ideja zahteva vreme i u određenom smislu transformiše onoga ko koristi tuđe naučne doprinose. Da bih citirao neki tekst, prvo ga moram pročitati, razumeti i biti inspirisan njime, a zatim ga kreativno iskoristiti, čime se celokupni proces na neki način menja način razmišljanja. Ako koristimo veštačku inteligenciju, taj proces se znatno ubrzava, a mehanizam apsorpcije (prihvatanje tuđe ideje da bih na osnovu nje rekao nešto svoje) praktično ne postoji. Dakle, nema vremena da tuđe ideje postanu moje vlastite.

To, po mom mišljenju, stvara osećaj isključenosti od proizvoda sopstvenog intelektualnog rada. Ako pišem rad, a AI ga korektuje ili predlaže proširenja na koja sam ne bi došao, ko je u tom slučaju autor tog rada? Ako AI počne da žonglira koncepcijama i teorijama koje nisam poznavao i usvojio samo iz sažetaka, da li ih koristim svesno (tj. u skladu sa sopstvenom autorskom namerom), ili se više vodim tuđim idejama kao po konopcu? Kao što sam ranije napomenuo, ideje koje kruže u LLM-ovima sigurno imaju svoje autore. Ipak, iskustvo korišćenja AI u akademskom radu može dovesti do neprijatnog osećaja nedostatka subjektivnosti kod naučnika.

U vreme pre AI, ja kao naučnik sam razmišljao, otkrivao, prezentovao i diskontovao stečeni prestiž tokom karijere. U eri AI, to više nije tako jednostavno. To može dovesti do egzistencijalnih pitanja. Ako više nisam samo ja taj koji misli, otkriva, autor je, možda nauka uopšte više nije potrebna svetu? Možda će razvoj AI u budućnosti – kada mogućnosti jezičkih modela budu mnogo veće nego sada – izazvati nepobediv osećaj suvišnosti. To može biti teško podneti za intelektualce, za koje je subjektivnost, a samim tim i individualno autorstvo, ključni element njihove profesionalne identiteta.

Vratimo se na slučaj bivše državne predstavnice. Prof. Mroż-Gorgoń je ne samo prekršila određena pravila igre o prestižu. Iako je sama igrala ulogu obučenog eksperta, njen primer pokazuje mogućnost da intelektualni rad takvog stručnjaka nije neophodan i da ga može zameniti relativno jeftin i lako dostupan uređaj.

Preterana reakcija na kompromitaciju prof. Mroż-Gorgoń možda izražava strah od budućnosti u kojoj će lično autorstvo i subjektivnost naučnika postati zastareli koncepti. Budućnosti u kojoj će otkrića biti pripisivana ne samo naučnicima, već i korporacijama i modelima AI. Budućnosti u kojoj naučne karijere (ako će ih uopšte biti) neće biti zasnovane na dosadašnjim pravilima. U kojoj će razmišljanje, znanje, intelektualne kompetencije prestati biti važan pokazatelj društvenog statusa.

Svi smo mi Platon

Da bismo bolje objasnili gde se danas nalaze naučnici (u Poljskoj i svetu), vredi se osloniti na ključni prelaz iz oralnosti u pismenost u istoriji kulture. Otkriće i širenje pisma bilo je tehnološka revolucija koja je promenila mnoge aspekte društvenog života, od trgovine, preko nauke, do politike. Međutim, nisu svi bili entuzijasti te novine. Među njegovim oštrim kritičarima bio je i Platon, koji je smatrao da pismo uništava pamćenje i izlaže filozofe riziku nerazumevanja (govornik može da brani ono što kaže; pismo, jednom pušteno u komunikaciju, živi svojim životom, van kontrole tvorca). Postavku Platona može se tumačiti kao nešto više od jednostavne tehnofobije: to je stav predstavnika elite, koji vidi da će pravila postojećih društvenih hijerarhija biti brutalno izmenjena, a njegove kompetencije više neće biti toliko cenjene kao nekada.

Strah, koji je bio prisutan u nekim žestokim reakcijama na slučaj prof. Mroż-Gorgoń, odraz je sličnog stava kakav je zastupao Platon. Naravno, u svetu nauke postoji mnogo entuzijasta AI, to ne osporavam. Ipak, u akademskoj zajednici postoji i mnogo protivnika, koji pored opravdanih prigovora brinu i od gubitka sopstvenog prestiža i važnih elemenata sopstvenog identiteta.

Sa jedne strane, AI sigurno narušava neke kompetencije, može dovesti do lenjosti, možda nas vodi u slepu ulicu. Već sada se ističe da su informacije koje AI generiše, i koje ona koristi za dalje učenje, često same po sebi plodno tlo za dalje učenje, što čini ceo sistem radom na prazan hod. Sa druge strane, brz razvoj izaziva i negaciju ispunjenu strahom, koja je više odraz straha, a manje od realne procene promena koje će možda zauvijek preokrenuti svet.

**
Michał Wróblewski – sociolog, filozof, radi na Institutu za sociologiju UMK u Torontu, bavi se sociologijom medicine i sociologijom okruženja. Trenutno istražuje skepticizam prema vakcinama i aktivizam vezan za kvalitet vazduha. Autor je, između ostalog, Čije su brige? Čija nauka? Strukture znanja u odnosu na naučno-socijalne kontroverze (sa A. Nowakiem i K. Abriszewskim, Poznań 2016), Sociologija epidemija. Pojavljujuće se zarazne bolesti u perspektivi društvenih nauka (sa Ł. Afeltowiczem; Toruń 2021).

Objava Veštačka inteligencija i strahovi akademije prvi put se pojavila na Kritika Politička.