Mesterséges intelligencia és az akadémia félelmei

A szeptember elején, az új GPT-6 Astra modell bemutatásakor az OpenAI bejelentette az úgynevezett általános mesterséges intelligencia létrejöttét. Ez egy olyan fejlettségi szint lenne, amely közelebb hozná a nyelvi modelleket az emberi mentális képességekhez.

Bár ez a nyilatkozat szkepticizmust váltott ki az AI-szakértők körében is, a további események tovább fokozták az érzelmeket a mesterséges intelligencia potenciális lehetőségei körül. Először az OpenAI bejelentette, hogy nyelvi modelljük megoldott egy „millennium problémát” (azaz egy alapvető matematikai kérdést a tudomány számára). Ezután a közösségi médiában robbant a hír: matematikusok, akik közel álltak ugyanazon probléma megoldásához, és szintén a GPT-modelleket használták, aggodalmukat fejezték ki, hogy az OpenAI által bejelentett áttörés az ő munkájuk eredményei miatt történt.

Emeljük még ki, hogy egy ideje egyre gyakrabban jelennek meg a médiában volt munkatársak nyilatkozatai, miszerint az OpenAI által készített modellek veszélyesek, és a jövőben, mint autonóm és emberi kontroll nélküli rendszerek, veszélyt jelenthetnek az emberiségre.

A mesterséges intelligencia fejlődésével kapcsolatos veszélyekről már valóban sokat írtak. A fejlődés komoly környezeti lábnyommal jár, mivel a nyelvi modellek tanításához szükséges adatközpontok hatalmas mennyiségű energiát és vizet igényelnek. Maradnak kérdések a magánélet védelméről is, hiszen a felhasználók bármit beletöltenek a nyelvi modellekbe – családi képektől orvosi eredményekig – és mindez egy hatalmas adatmasszává válik, amelyet a nagy tech cégek használnak.

Végül felmerülnek kevésbé vagy inkább komolyabb kérdések a biztonságról és a jövőről – hogyan lehetne bevezetni ellenőrző rendszereket, ha ilyen hatalmas technológiát magáncégek fejlesztenek, amelyek semmilyen kontroll alá nem esnek?

Szociológusként nem vagyok képes értékelni ezeket a veszélyeket. Fogalmam sincs, hogy tíz év múlva nem ébredünk-e egy olyan világban, mint a Terminátor. Nincs kompetenciám megítélni, hogy az AI kontrollálatlan fejlődésének figyelmeztetései, amelyek szerint a nyelvi modellek átveszik a hatalmat a világ felett, valós folyamatokon alapulnak-e, vagy csupán a technofóbiának, a tudomány-technológiai áttörések idején jellemző félelemkeltésnek a kifejeződései. Azonban kérdezhetem az ilyen félelmek jellegét, mert ezek nagyon érdekes dolgokat mondanak el a társadalmi érzelmekről, amelyeket a technológiai fejlődés kivált.

AI és az akadémia

Ez annyira érdekes kérdés, mert néhány hete még saját, lengyel kontroversziánk volt az AI kapcsán – nevezetesen a (nem)híres Lengyelek saját portréja jelentés és Dr. Barbara Mróz-Gorgoń professzorral kapcsolatban. Meglepő a reakciók mértéke és az érzelmek hőfoka, amelyek kísérték. A szokásos internetes gyűlölködésen (írom „szokásosnak”, mert a polarizált közösségi média korszakában ilyen erős reakciók nem újak) kívül sok kritikus hang érkezett az akadémiai környezetből is. A Konferencia a Lengyel Egyetemek Rektoraiból (amely szervezet a lengyel egyetemek vezetőit tömöríti) a professzor asszonytól, hogy bocsánatot kérjen, és nem tartotta megfelelőnek azt, hogy „mások professzorok is használják” a mesterséges intelligenciát. A közösségi fórumokon sokan kritizálták az egykori kormányzati szóvivőt, és még a magyar tudomány megítélését is megkérdőjelezték.

Miért ilyen erős a kritika? Ahhoz, hogy erre választ adjunk, tudnunk kell, mi is valójában a mesterséges intelligencia a tudomány szempontjából, mint tudásalkotó terület és mint a tudósok által végzett szakmai tevékenység.

A lelkesek azt mondják, hogy ez egy eszköz, amely megkönnyíti a munkát. Én magam is használok nyelvi modelleket – főként az irodalom áttekintéséhez, ami egy fáradságos, de elengedhetetlen folyamat, ha valaki el akarja érni, hogy nemzetközi, angol nyelvű tudományos folyóiratokban publikáljon. A nyelvi modellek jelentősen gyorsítják ezt a folyamatot, fizetős verzióik már szinte soha nem hallucinálnak, és képesek kiválasztani a témámhoz illő tudományos cikkeket, így nem kell tucatnyi szöveget olvasnom, hogy megtaláljam azokat, amelyek épp megfelelnek a kutatásomnak. A mesterséges intelligencia lehetővé teszi számomra azt is, hogy lefordítsam angolra, amit írtam, ez pedig fontos előny azok számára, akik a félperifériás tudomány képviselőiként versenyeznek a központi országok angol nyelvű kutatóival.

Vannak más, nem különösebben vitatott alkalmazási területek is az AI-ban a tudományban, például az adatok automatikus gyűjtése (pl. weboldalakról, amikor valaki diskurzus-elemzésekkel foglalkozik), vagy azok prelimináris vagy mélyebb elemzése (pl. kategorizálási kulcsok készítése és kvalitatív adatok kódolása). A nyelvi modelleket használják azok is, akik pályázatokat írnak – az AI kiváló segéd lehet, aki megmutatja, hogyan lehet ilyen pályázatot megírni, hogy növeljük az esélyeket.

A kritikusok hangsúlyozzák, hogy a nyelvi modellek túlzott használata jelentős növekedést eredményez a tudományos termelésben. Egy elemzés szerint azok a kutatók, akik AI-eszközöket használnak, háromszor több tudományos cikket publikálnak, és majdnem négyszer több idézetet kapnak. Egy másik tanulmány szerint jelentős növekedés figyelhető meg a pályázati támogatások iránti kérelmek számában a rangos Marie Sklodowska-Curie programban 2022–2025 között. Ez mind azt eredményezi, hogy bár könnyebb a kutatóknak szöveget vagy pályázatot írni, a növekvő verseny miatt egyre nehezebb ezeket publikálni és támogatást szerezni.

A legjobb tudományos folyóiratok és a legnevesebb támogatószervezetek szinte elárasztják jól megírt pályázatokkal. Ez a tudás kínálatának növekedése nem jár a kereslet növekedésével. A legjobb folyóiratok ugyanannyi cikket közölnek, és a támogatószervezetek ugyanannyi költségvetéssel rendelkeznek, így a sikerarány (az elfogadott cikkek vagy pályázatok aránya az elutasítottakhoz képest) folyamatosan csökken.

Ezenkívül a bírálati folyamat kérdése is felmerül, amely a kutatási eredmények publikálásának kulcsfontosságú része. A jó kutatásoknak át kell esniük a szakmai ellenőrzésen, és más szakértők által kell megvizsgálniuk, hogy szélesebb közönség előtt bemutathatók legyenek egy tudományos cikkben. A double-blind peer review, azaz az anonimitásban végzett szakmai értékelés a legtöbb tudományterületen standard. Az egyre növekvő publikációs infláció azonban megnehezíti, hogy a kutatók időt találjanak alaposan elolvasni egy-egy tudományos cikket, megbízhatóan értékelni, és megírni a recenziót (az értékelést indokoló lépéseket).

Ugyanakkor bizonyítékok vannak arra, hogy a nyelvi modelleket nemcsak szövegek írására, hanem azok értékelésére is gyakran használják. Tehát olyan helyzet áll elő, hogy a mesterséges intelligencia írja a tudósok helyett a cikkeket, majd helyettesíti őket ezek értékelésében is.

A tudomány presztízse

Ezek a negatív jelenségek nyilvánvalóan azoknak a szavára találtak, akik szinte egységesen kritizálták Prof. Mróz-Gorgońt. Nem akarom itt megkérdőjelezni jó szándékukat. Az AI valóban nagy veszélyt jelenthet a tudományra, és eszközeit rendkívül óvatosan kell használni. A jelentős kritikák, amelyek a jelentés szerzőjét érték, nagyrészt jogosak. Ugyanakkor a reakció radikalitása megdöbbentő, és talán egy olyan tudattalan félelem rejtőzik mögötte, amely nem a technológiai fejlődés közvetlen következményeitől való félelem, hanem a társadalmi státusz elvesztésétől való félelem.

Az én hipotézisem a következő: a volt kormányzati szóvivő jelentésével kapcsolatos ügyben megnyilvánuló érzelmek a tudományos presztízs egyéni elismerésén alapuló szabályainak radikális változásától való félelem kifejeződése.

Egy külső szemlélő számára a tudósok azt teszik, amit tesznek, hogy mindannyiunknak jobb legyen az élete. A tudományos tudás minden ember érdekeit szolgálja (például hosszabb, egészségesebb és kényelmesebb életet tesz lehetővé). Robert K. Merton szociológus klasszikus értékrendjében az akadémiai etosz elemei közé tartozik többek között a közösségi szellem és az önzetlenség, vagyis az a meggyőződés, hogy a tudás az egész emberiség közös öröksége, és a tudományos tevékenység a igazság keresésének kell, hogy hajtsa. Ez azonban nagyrészt idealizált kép, amit sok kritikus is megfogalmazott Merton kapcsán.

Természetesen nem tagadom, hogy a tudósok a tudományos fejlődésért végzik kutatásaikat. Inkább arról van szó, hogy számukra rendkívül fontos motiváció a személyes presztízs is. Ez lehet talán a legértékesebb valuta a tudomány világában. Pierre Bourdieu szociológus szerint a tudományban, akárcsak más társadalmi tevékenységekben, a hatalom a presztízs mennyiségétől függ. A presztízshez tartoznak többek között a rangos folyóiratokban megjelent publikációk, a neves támogatószervezetek által finanszírozott projektek, vagy a hivatkozások száma.

Ezt a presztízst később a kutatók más erőforrásokra cserélhetik (például magas presztízsű kutató több pénzt kereshet), vagy saját tőkéjükkel játszva érhetnek el sikereket az akadémiai szférán kívül is (például egy magas presztízsű kutató ismert médiaként vagy politikai szereplőként is megjelenhet). Ugyanakkor a presztízs, mint érték, összegyűjtése rendkívül nehéz és sok áldozatot, személyes erőfeszítést igényel. Másrészt a neves tudósok, akik már sok presztízst szereztek, később könnyebben és gyorsabban érik el életcéljaikat.

Egy ilyen presztízshez elengedhetetlen, hogy egy tudományos eredményt egy adott személyhez kötünk. A presztízs mindig egy adott kutatóé a tudományos mezőben. A presztízs az övé, különben értelmetlen mint valuta. Ezért a tudósok nagy hangsúlyt fektetnek arra, hogy az eredményt egy adott személyhez kössék – a történelemben sok vita volt arról, kié az elsőbbség egy publikáció, felfedezés vagy szabadalom esetében. Egy másik jó példa erre a szerzők sorrendje a tudományos publikációkban – az első helyen szereplő személy mindig a legnagyobb presztízzsel bír, a második valamivel kevesebbel, és így tovább. Legalább néhány forró vitát én is tanúja voltam arról, hogy kié legyen az első hely a szerzőlistán.

Szintén jó példa a már említett millennium problémamegoldás elsőbbségéért folytatott vita. Felmerül a kérdés – kit érdekel, ki érte el először ezt a áttörést, hiszen végső soron a tudás növekedése a lényeg? Sajnos a tudományban nem csak ez a kérdés. A kutatókat nagyban hajtja, hogy valami jelentőset alkossanak, ami beírja nevüket a történelemkönyvekbe. Ezt másképp értékelhetjük, de gyakran így van.

A presztízs változó játékszabályai

És ez így is volt, mert a nyelvi modellek széles körű alkalmazásával a tudományos játék szabályai újraíródnak. Az AI lehetővé teszi, hogy sokkal gyorsabban gyűjtsük a presztízst cikkek, támogatások és idézetek formájában. Ahogy fentebb utaltam rá, már most is jelentős növekedés figyelhető meg a legnevesebb tudományos folyóiratokba benyújtott szövegek számában. A tudományos kiadói piac jól alkalmazkodott ehhez a helyzethez – egyre népszerűbbek a úgynevezett „kombájn” folyóiratok, amelyek naponta több tucat szöveget publikálnak, gyors bírálati folyamatokat kínálnak, és magas idézhetőséget garantálnak. Az MDPI vagy a Frontiers kiadók ilyen típusú ökoszisztémává váltak a mesterséges intelligenciával támogatott tudomány számára.

Az AI által támogatott tudományos munka hatékonysága azt eredményezi, hogy a rangos tudós státusz elérése egyre könnyebbé válik (bár a tudás minőségét most nem érintem, ez egy másik téma). A hagyományos modellben a presztízs gyűjtése lassabb volt. Az AI korszakában azonban minden felgyorsul. A kutató viszonylag gyorsan nagy presztízsforrásokat szerezhet, és ezeket különböző területeken játszhatja, versenyezve azokkal az akadémikusokkal, akik „régebbi” szabályok szerint építették fel karrierjüket.

Amint könnyen kitalálható, ez a helyzet végül konfliktushoz vezet azok között, akik képesek nyelvi modellekkel élni, és így „rövidítve” építik fel pozíciójukat a tudomány világában, és azok között, akiknek ez sok áldozatot és időt követelt. Úgy vélem, ilyen helyzettel találkoztunk a magyar akadémiai közeg reakciójában Prof. Mróz-Gorgoń ügyében.

Természetesen a Lengyelek saját portréja jelentés is kiváló példa arra, hogy hogyan nem érdemes AI-t használni. Ugyanakkor ez egyfajta előképe annak, hogy a jövőben hogyan alakulhat az akadémiai presztízsért folytatott játék, és hogy azok, akik ma az akadémiai elit tagjai, hogyan nem tudnak majd alkalmazkodni az új szabályokhoz. Prof. Mróz-Gorgoń példája ennek a változásnak a jele, ami nemcsak komoly változást jelent, hanem a korábbi hierarchiák teljes felborulását is.

AI és az elmagányosodás érzése

Az AI továbbá azt is megnehezíti, hogy megválaszoljuk, „ki a kutatás/patent/felfedezés/cikk szerzője”, ezzel súlyosan érintve az akadémiai presztízs egyik kulcselemét, az autoroságot. A hagyományos modellben ez viszonylag egyértelmű volt – könnyen lehetett hozzárendelni a felfedezést egy személyhez. Bár Ludwik Fleck zseniális tudós már közel száz évvel ezelőtt megmutatta, hogy a csoportok és kollektívák a tudományos felfedezések valódi alkotói, az akadémiai mező szabályai szerint az „én vagyok a szerzője ennek a felfedezésnek” kijelentés a presztízs egyik kulcselem.

Vegyük újra a millennium problémamegoldás példáját. Két matematikus, akik szerint az OpenAI „ellophatta” a áttörést, saját munkájukban nyelvi modelleket használtak. Ezek az OpenAI-hoz tartoztak, így talán ők maguk is hozzájárultak saját kudarcukhoz.

Ki a szerzője a áttörésnek? Ezek a matematikusok, akik valószínűleg nem tudták volna megcsinálni AI nélkül, így használták az eszközt? Vagy az OpenAI tulajdonosai, akik talán a matematikusok által készített promptokat használták a modellek fejlesztéséhez? Vagy maga a mesterséges intelligencia? Hiszen az AI az adatokon alapul, amelyeket korábban az emberek hoztak létre, az eddigi tudományos eredményeken, és a promptokat is ember fogalmazza meg.

Az AI természetesen az ember által betáplált tudásra épül, így végső soron egy élő személy a szerzője azoknak az ötleteknek, amelyeket az LLM javasol. Azonban itt egy probléma is rejtőzik: az AI által generált hivatkozások sokfélesége és azok gyors elsajátítása. A hagyományos tudományos munkában a mások ötleteinek elsajátítása és felhasználása időt igényel, és bizonyos értelemben átalakítja azt, aki a mások eredményeit felhasználja. Ahhoz, hogy idézzek egy szöveget, először el kell olvasnom, meg kell értenem, és ihletet kell merítenem belőle, majd saját alkotásként felhasználom, így a folyamat megváltoztatja a gondolkodásmódomat. Ha mesterséges intelligenciát használunk, ez a folyamat jelentősen felgyorsul, és a mások ötleteinek „felszívása” (azaz az ideák átvétele és saját gondolatként való felhasználása) gyakorlatilag nem történik meg. Nincs idő arra, hogy a mások ötletei a sajátjaim legyenek.

Ez szerintem az elmagányosodás érzését kelti a saját szellemi termék iránt. Ha írok egy cikket, és az AI javít rajta vagy javaslatokat tesz, amelyekre én nem gondoltam, akkor ki a szerzője végül ennek a cikknek? Ha az AI elkezdi keverni a fogalmakat és elméleteket, amelyeket nem ismertem, és csak összefoglalókból sajátítottam el, akkor tudatosan használom ezeket (azaz saját, szerzői szándékom szerint), vagy inkább hagyom, hogy valaki más irányítson a gondolkodásomban? Ahogy korábban említettem, az LLM-ekben keringő ötleteknek valószínűleg megvannak a szerzői. Azonban a mesterséges intelligencia használata a tudományos munkában kényelmetlen érzést kelthet a kutatókban, hogy nem ők a szubjektumok.

Korábban, az AI előtt, én, mint tudós, gondoltam, fedeztem fel, mutattam be, és értékeltem a karrier során szerzett presztízt. Az AI korszakában ez már nem olyan nyilvánvaló. Ez pedig egzisztenciális kérdéseket vethet fel. Ha már nem csak én gondolok, nem csak én vagyok a szerző, akkor talán a tudós szerepe a világban már nem szükséges? Talán a jövőben az AI fejlődése – amikor a nyelvi modellek lehetőségei sokkal nagyobbak lesznek, mint most – véglegessé teszi az érzést, hogy felesleges vagyok. Ez nehéz lehet az értelmiségiek számára, akik számára a szubjektum, és ezáltal az egyéni szerzői jog, mint presztízs alapvető eleme a szakmai identitásuknak.

Visszatérve a volt kormányzati szóvivő ügyéhez, Prof. Mróz-Gorgoń nemcsak a presztízs játékszabályait törte át. Bár maga is képzett szakértő szerepében lépett fel, példája azt mutatja, hogy az ilyen szakemberek szellemi munkája nem feltétlenül szükséges, és könnyen delegálható olcsó és könnyen használható eszközökre.

A Prof. Mróz-Gorgoń által elkövetett botrányra adott túlzott reakció talán a félelem kifejeződése a jövőtől, ahol az egyéni szerzői jog és a kutató szubjektuma már nem lesz releváns. A jövőben a felfedezéseket nemcsak a tudósok, hanem vállalatok és AI-modellek is tulajdonítják majd. A jövőben a tudományos pályák (ha egyáltalán lesznek) nem a korábbi szabályok szerint épülnek majd, és a gondolkodás, tudás, szellemi képességek nem lesznek már a társadalmi státusz mérőszámai.

Mindannyian Platonok vagyunk

Hogy jobban megértsük, hol tartanak ma a tudósok (Magyarországon és a világban), érdemes visszatekinteni a kultúrtörténet egyik kulcsfontosságú áttörésére: az oralitásról az írásbeliségre való áttérésre. Az írás feltalálása és elterjesztése technológiai forradalom volt, amely számos társadalmi aspektust változtatott meg, a kereskedelemtől a tudományon át a politikáig. Nem mindenki volt azonban lelkes az új technológia iránt. A legelvetemültebb kritikusok között volt például Platón, aki szerint az írás rontja a memóriát, és veszélyezteti a filozófusokat az értelmezés félreértésétől (aki beszél, meg tudja védeni, amit mond; az írás egyszer csak elterjed, és saját életet él, a szerző ellenőrzése nélkül). Platón hozzáállását nem csupán technofóbiának lehet tekinteni: ez egy elitista álláspont, amely szerint a meglévő társadalmi hierarchiák szabályai brutálisan megváltoznak, és a szakértelmük már nem lesz olyan értékes, mint korábban.

Az a félelem, amelyet a Prof. Mróz-Gorgoń ügyében mutatott reakciók is tükröznek, hasonló érzelmi reakció. Természetesen sokan lelkesednek az AI iránt a tudományban, nem tagadom. Ugyanakkor az akadémiai világban sokan vannak, akik ellenzik, és nemcsak jogos kifogásaik vannak, hanem attól is tartanak, hogy elveszíthetik presztízsüket és identitásuk fontos elemeit.

Egyfelől az AI bizonyos képességeket ront, elbutít, talán el is vezet minket egy vakvágányra. Már most is megfigyelhető, hogy az AI által generált információk táplálják az AI-t, így az egész rendszer egyfajta holtponton működik. Másrészt a gyors fejlődés félelemmel átitatott tagadáshoz vezet, ami nemcsak a félelem kifejezése, hanem a visszafordíthatatlan (talán) változások megállítására irányuló próbálkozás is, amelyek a korábbi világot felforgatják.

**
Michał Wróblewski – szociológus, filozófus, a Toruni Egyetem Szociológiai Intézetében dolgozik, érdeklődik az orvostudomány szociológiája és a környezeti szociológia iránt. Jelenleg a vakcinázási szkepticizmusról és a levegőminőség aktivizmusáról folytat kutatásokat. Többek között szerzője a Kinek a félelmei? Kinek a tudománya? A tudás struktúrái a tudományos-közösségi viták tükrében (A. Nowak és K. Abriszewski közreműködésével, Poznań 2016), A járvány szociológiája. A kialakuló fertőző betegségek a társadalomtudományok perspektívájában (L. Afeltowicz közreműködésével; Toruń 2021).

A cikk Mesterséges intelligencia és az akadémia félelmei elsőként jelent meg a Kritika Politicában.