Inteligența artificială și temerile academiei

La începutul lunii septembrie, în timpul prezentării noului model GPT-6 Astra, compania OpenAI a anunțat apariția așa-numitei inteligențe artificiale generale. Aceasta ar trebui să fie un nivel de dezvoltare al acestei tehnologii, care să apropie modelele lingvistice de capacitățile mentale ale omului însuși.

Deși această declarație a fost întâmpinată și cu scepticism din partea experților din domeniul AI, evenimentele ulterioare au amplificat emoția în jurul potențialelor posibilități ale inteligenței artificiale. Mai întâi, OpenAI a anunțat că modelul lor lingvistic a rezolvat unul dintre „problemele milenare” (adică probleme matematice fundamentale pentru știință). Apoi, în social media, a apărut o nouă informație: matematicieni, care erau aproape de soluționarea aceleiași probleme și care au folosit și ei modele GPT, și-au exprimat îngrijorarea că anunțul făcut de OpenAI a fost posibil datorită muncii lor.

Să adăugăm că de ceva timp tot mai frecvent apar în mass-media declarații ale foștilor angajați ai companiei, conform cărora modelele create de OpenAI sunt periculoase și, în viitor, ca sisteme autonome și lipsite de controlul uman, ar putea reprezenta o amenințare pentru umanitate.

Despre pericolele legate de dezvoltarea inteligenței artificiale s-a scris deja cu adevărat mult. Progresul în acest domeniu implică o amprentă ecologică serioasă, deoarece centrele de date, necesare pentru antrenarea modelelor lingvistice, consumă cantități uriașe de energie și apă. Rămân fără răspuns întrebările despre intimitate, având în vedere că utilizatorii pot introduce în modelele lingvistice orice doresc – de la fotografii de familie până la rezultate ale analizelor medicale – și toate acestea devin parte a unei mase uriașe de date, din care profită marile companii tehnologice.

Se pun, în cele din urmă, întrebări mai puțin sau mai mult serioase despre siguranță și viitor – cum să implementăm sisteme de control dacă o tehnologie atât de puternică este dezvoltată de corporații private, care nu sunt sub controlul nimănui?

Ca sociolog, nu pot evalua aceste pericole. Nu am idee dacă peste 10 ani ne vom trezi într-o lume ca în Terminator. Nu am competența să evaluez dacă avertismentele că dezvoltarea necontrolată a AI va duce la preluarea puterii asupra lumii de către modelele lingvistice sunt fundamentate în procese reale sau sunt pur și simplu expresia tehnofobiei caracteristice epocilor de tranziție științifico-tehnologică. Pot însă să întreb despre natura acestor temeri, pentru că ele ne spun ceva foarte interesant despre emoțiile sociale generate de progresul tehnologic.

AI și academia

Este o problemă atât de interesantă încât, cu doar câteva săptămâni în urmă, am avut propria noastră controversă poloneză în jurul AI – și anume cazul (ne)celebrului raport Polaków portret własny și al prof. Barbarei Mroż-Gorgoń. Este surprinzătoare amploarea reacției și temperatura emoțiilor care au însoțit-o. În afară de linșajul obișnuit pe internet (scriu „obișnuit”, pentru că în epoca media sociale polarizate astfel de reacții nu sunt deloc ceva nou), multe voci critice la adresa fostei reprezentante a guvernului pentru promovarea brandului Poloniei au venit din mediul academic. Purtătorul de cuvânt al Conferinței Rectorilor Școlilor Universitare Poloneze (organizație care reunește conducătorii universităților poloneze) a cerut scuze prof. Mroż-Gorgoń și a considerat inadecvată afirmația acesteia că „orice alt profesor din lume folosește” inteligența artificială. Pe forumurile sociale am citit multe opinii critice din partea reprezentanților mediului academic, unele chiar despre o potențială rușine pentru știința poloneză.

De unde atâta critică? Pentru a răspunde, trebuie să conștientizăm ce reprezintă, din perspectiva științei ca domeniu de producere a cunoașterii – și din cea a cercetătorilor ca oameni specializați în crearea acestei cunoașteri – chiar inteligența artificială.

Entuziaștii vor răspunde că este un instrument care facilitează munca. În acest punct, trebuie să recunosc că folosesc modele lingvistice – în principal pentru revizuirea literaturii, un proces anevoios, dar necesar dacă vrei să publici în reviste științifice de renume în limba engleză. Modelele lingvistice accelerează semnificativ acest proces, versiunile lor plătite aproape că nu mai halucinează și pot selecta articole științifice relevante pentru subiectul meu, iar eu nu mai trebuie să citesc zeci de texte pentru a găsi câteva care se potrivesc exact cu ceea ce studiez. Inteligența artificială îmi permite, de asemenea, să traduc în limba engleză ceea ce am scris, ceea ce reprezintă un avantaj important pentru cineva din știința semi-periferică, care trebuie să concureze cu cercetători anglofonici din țările centrale.

Există și alte aplicații mai puțin controversate ale AI în știință, precum automatizarea colectării datelor (de exemplu, de pe site-uri web, pentru cei care analizează discursul) sau analiza preliminară sau aprofundată a acestora (de exemplu, prin crearea de chei de clasificare preliminare și codificarea datelor calitative). Toți cei care depun proiecte de finanțare a granturilor folosesc, de asemenea, modele lingvistice – AI fiind un asistent excelent pentru a sugera cum să redactezi o astfel de cerere pentru a crește șansele de succes.

Criticii AI subliniază că abuzul de modelele lingvistice duce la o inflație semnificativă a producției științifice. Conform uneia dintre analize, cercetătorii care folosesc instrumente AI publică în medie de trei ori mai multe texte științifice și pot spera la aproape patru ori mai multe citări. O altă analiză arată o creștere semnificativă a numărului de cereri de granturi depuse în prestigiosul program Marie Sklodowska-Curie Actions în perioada 2022–2025. Toate acestea fac ca, deși este mai ușor pentru cercetători să scrie un text sau o cerere de grant, concurența tot mai acerbă face ca publicarea acestor texte și obținerea finanțării să devină tot mai dificilă.

Cele mai bune reviste științifice și cele mai prestigioase agenții de finanțare sunt copleșite de propuneri bine redactate. Această creștere a ofertei de cunoaștere științifică nu este însoțită de o creștere a cererii. Cele mai bune reviste publică același număr de articole, iar agențiile dispun de aceleași bugete, astfel încât rata de succes (raportul dintre articolele sau cererile de grant acceptate și cele respinse) scade în mod constant.

Se adaugă și problema recenziei, activitatea esențială în publicarea cercetărilor. Cercetările bune trebuie să treacă verificarea și să fie evaluate de alți specialiști în domeniu pentru a putea fi prezentate unui public mai larg în articolul științific. Double-blind peer review, adică recenzia anonimă realizată de alți cercetători, este standardul în majoritatea domeniilor științei. Inflația publicațiilor științifice însă duce la dificultăți tot mai mari pentru cercetători de a găsi timp pentru a citi cu atenție un articol, a-l evalua corect și a scrie recenzia (cu justificări pas cu pas).

Există, de asemenea, dovezi că modelele lingvistice sunt frecvent utilizate nu doar pentru redactarea textelor științifice, ci și pentru evaluarea acestora. Astfel, avem de-a face cu o situație în care inteligența artificială scrie pentru cercetători articole, apoi îi ajută și în evaluarea acestor materiale.

Prestigiul în știință

Toate aceste fenomene negative cu siguranță au fost în mintea celor care s-au alăturat aproape unanim criticilor prof. Mroż-Gorgoń. Nu vreau să pun la îndoială intențiile lor bune. AI poate fi cu adevărat o amenințare pentru știință, iar instrumentele sale trebuie folosite cu extremă prudență. Critica care a căzut asupra coautoarei raportului este în mare parte justificată. Cu toate acestea, radicalitatea acestei reacții este surprinzătoare și poate ascunde o teamă inconștientă – nu atât față de consecințele directe ale dezvoltării tehnologice pentru anumite activități, ci față de pierderea statutului.

Hipoteza mea este următoarea: emoțiile legate de cazul fostei purtătoare de cuvânt a guvernului pentru promovarea Poloniei în lume sunt o expresie a fricii față de schimbarea radicală a regulilor jocului academic, bazată pe prestigiul individual.

Din punctul de vedere al unei persoane din afară, cercetătorii fac ceea ce fac pentru ca toți să trăim mai bine. Cunoașterea științifică trebuie să servească intereselor tuturor oamenilor (de exemplu, să ne facă să trăim mai mult, mai sănătos și mai confortabil). În viziunea clasică a sociologului Robert K. Merton, elementele etosului academic sunt, printre altele, comunalismul și dezinteresul, adică convingerea că cunoașterea este moștenirea comună a întregii umanități și activitatea științifică trebuie să fie motivată de căutarea adevărului, nu de interese particulare. Însă această imagine este în mare parte idealizată, după cum au subliniat și mulți critici ai lui Merton.

Nu neg, desigur, că cercetătorii fac cercetări pentru binele umanității. Însă, pentru ei, o motivație extrem de importantă rămâne și prestigiul individual. Acesta poate fi, poate, cea mai valoroasă monedă în lumea științei. Așa cum spunea un alt sociolog, Pierre Bourdieu, în știință, la fel ca în alte domenii ale activității sociale, este vorba despre putere. Puterea în știință depinde de prestigiul acumulat, care include, printre altele, publicații în reviste de prestigiu, proiecte finanțate de agenții de granturi renumite sau numărul de citări.

Prestigiul astfel acumulat poate fi apoi schimbat pe alte resurse (de exemplu, un cercetător cu prestiu mare poate câștiga mai mult) sau folosit pentru a obține succes și în alte contexte, non-academice (de exemplu, un cercetător cu prestigiul ridicat poate deveni o autoritate media cunoscută sau se poate implica în politică). În același timp, acumularea acestei valute, prestigiul, poate fi extrem de dificilă și necesită multe sacrificii, inclusiv personale. Pe de altă parte, cercetătorii recunoscuți, cei care au deja mult prestiu, au apoi mai ușor și ating mai rapid obiectivele vieții.

Pentru a fi atribuit unui anumit rezultat științific, prestigiul trebuie să fie legat de o anumită persoană. Prestigiul poate fi întotdeauna atribuit unui anumit cercetător în domeniul științei. Prestigiul aparține cuiva, altfel ca monedă nu are sens. De aceea, cercetătorii acordă atât de multă importanță atribuirii unui rezultat unui anumit nume – istoria cunoaște multe dispute despre prioritatea unei publicații, descoperiri sau brevet. Un alt exemplu bun al acestui mecanism sunt discuțiile despre ordinea autorilor în publicațiile științifice – persoana de pe primul loc are întotdeauna cel mai mare prestiu, următoarea mai puțin, și tot așa. Am fost martor la cel puțin câteva discuții aprinse despre cine ar trebui să aibă prioritate în numele pe prima poziție.

Un exemplu bun este și disputa menționată anterior despre prioritatea rezolvării problemei milenare. Se poate întreba – cine chiar contează, cine a făcut această descoperire prima, dacă, în final, contează doar creșterea cunoașterii? În știință, însă, nu este vorba doar despre asta. Cercetătorii sunt motivați în mare măsură de dorința de a realiza ceva semnificativ, care să le asigure locul în istorie. Putem avea opinii diferite despre asta, dar așa se întâmplă adesea.

Schimbarea regulilor jocului despre prestigiu

Și, de fapt, așa a fost până acum, pentru că implementarea modelelor lingvistice în învățământul superior redefinește regulile jocului academic. AI permite acumularea mult mai rapidă a prestigiului sub formă de articole, granturi sau citări. După cum am arătat mai sus, deja are loc o creștere bruscă a numărului de texte trimise în reviste de top. În plus, piața editorială științifică s-a adaptat bine acestor circumstanțe – tot mai populare devin revistele „combinație”, care publică zeci de texte zilnic, au procese rapide de recenzare și garantează o citare ridicată. Astfel, editurile precum MDPI sau Frontiers devin un ecosistem natural pentru știința sprijinită de AI.

Eficiența utilizării AI în cercetarea științifică face ca drumul spre statutul de cercetător recunoscut să devină tot mai ușor (ignoranța aici asupra calității cunoașterii, fiind un alt subiect de discuție). În modelul tradițional, cel puțin în majoritatea cazurilor, acumularea prestigiului era mai lentă. În epoca AI, totul se accelerează. Cercetătorul poate acum să obțină relativ rapid resurse importante de prestigiu și să le folosească în diverse domenii, concurând astfel cu cei care și-au construit deja poziția pe vechile reguli.

După cum se poate anticipa, această situație duce inevitabil la conflict între cei care știu să folosească modelele lingvistice și își construiesc astfel poziția în lumea științei „pe scurtătură”, și cei pentru care acest lucru a fost posibil doar după mult efort și timp. Cred că am avut de-a face cu astfel de reacții în cazul mediului academic polonez față de cazul prof. Mroż-Gorgoń.

Desigur, raportul Polaków portret własny este un exemplu perfect despre cum nu trebuie folosit AI. Însă, totodată, reprezintă și un preview despre cum ar putea arăta în viitor jocul academic pentru prestigiu și cum cei care astăzi sunt elita academică s-ar putea să nu mai poată să se adapteze noilor reguli. Prof. Mroż-Gorgoń este, din această perspectivă, o expresie a ceva ce inevitabil se apropie – un viitor care nu se arată doar ca o schimbare serioasă, ci ca o răsturnare a ierarhiilor existente până acum.

AI și sentimentul de alienare

AI face, de asemenea, ca răspunsul la întrebarea „cine este autorul cercetării/brevetului/descoperirii/articolului” să devină extrem de problematic, lovind în dimensiunea esențială – autoritatea, așa cum am menționat mai sus – și anume, paternitatea. În modelul tradițional, situația era destul de clară – era ușor să atribui descoperirea unei persoane. Și, chiar dacă, după cum demonstra genialul Ludwik Fleck acum aproape o sută de ani, grupurile și colectivele sunt creatorii reali ai descoperirilor științifice, conform regulilor domeniului academic, afirmația „eu sunt autorul acestei descoperiri” este o mișcare cheie în jocul pentru prestigiu.

Revenind la exemplul rezolvării problemei milenare, doi matematicieni, care au sugerat că OpenAI ar fi „furat” descoperirea lor, în propria lor lucrare s-au bazat pe modele lingvistice. Acestea aparțineau OpenAI, deci, poate, cercetătorii au contribuit și ei la propria lor înfrângere.

Cine este autorul descoperirii? Acei matematicieni, care probabil nu ar fi reușit singuri, de aceea au folosit AI? Sau proprietarii OpenAI, care poate au folosit prompturi pregătite de acești matematicieni pentru a-și îmbunătăți modelele? Sau chiar inteligența artificială însăși? Dar AI se bazează pe date create anterior de oameni, pe întreaga moștenire științifică, iar prompturile sunt formulate tot de om.

AI se bazează, desigur, pe cunoașterea încărcată în modelul lingvistic de către om, astfel încât, în final, cineva viu este autorul ideilor pe care ni le sugerează LLM-ul. Însă, aici se ascunde o problemă legată de multitudinea de referințe generate de AI și viteza cu care acestea sunt asimilate. În cercetarea academică tradițională, asimilarea și utilizarea ideilor altora necesită timp și, într-un anumit sens, transformă pe cel care folosește descoperirile altora. Pentru a cita un text, trebuie mai întâi să-l citesc, să-l înțeleg și să mă inspir din el, apoi să-l folosesc creativ, ceea ce transformă modul meu de gândire. Când folosim AI, acest proces se accelerează foarte mult, iar mecanismul de absorbție (adoptarea ideilor altora pentru a spune ceva original) practic nu are loc. Astfel, nu mai există timp ca ideile altora să devină ale mele.

Aceasta, după părerea mea, generează un sentiment de alienare față de produsul muncii noastre intelectuale. Dacă scriu un articol, iar AI face corecturi sau sugerează extinderi pe care eu nu le-aș fi avut în vedere, cine este, în final, autorul acestui articol? Dacă AI începe să jongleze cu concepte și teorii pe care nu le-am cunoscut și le-am asimilat doar din rezumate, folosesc aceste idei conștient (adică în conformitate cu intențiile mele autorale) sau mă las purtat de ele ca de o frânghie în gândirea mea? Așa cum am menționat anterior, ideile din LLM-uri au, cu siguranță, și autorii lor. Cu toate acestea, experiența utilizării AI în cercetarea academică poate duce la un sentiment inconfortabil pentru cercetători, de lipsă de subiectivitate.