Kunstmatige intelligentie en de angsten van de academie

In het begin van september, tijdens de presentatie van het nieuwe GPT-6 Astra-model, kondigde OpenAI de oprichting aan van zo'n zogenaamde algemene kunstmatige intelligentie. Dit zou een ontwikkelingsniveau van deze technologie zijn dat taalmodellen dichter bij de mentale vermogens van de mens zou brengen.

Hoewel deze verklaring ook met scepsis werd ontvangen door experts uit de AI-sector, hebben verdere gebeurtenissen de emotie rond de potentiële mogelijkheden van kunstmatige intelligentie verder aangewakkerd. Eerst kondigde OpenAI aan dat hun taalmodel een van de „milenniumproblemen” had opgelost (dat wil zeggen, fundamentele wiskundige vraagstukken die van groot belang zijn voor de wetenschap). Daarna brak op sociale media het nieuws uit: wiskundigen, die dicht bij de oplossing van hetzelfde probleem waren geweest en daarbij ook gebruik hadden gemaakt van GPT-modellen, uitten hun bezorgdheid dat de door OpenAI aangekondigde doorbraak dankzij hun werk was gerealiseerd.

Laten we nog toevoegen dat er sinds enige tijd steeds vaker verklaringen van voormalige werknemers van het bedrijf in de media verschijnen dat de door OpenAI ontwikkelde modellen gevaarlijk zijn en in de toekomst, als volledig autonome en door mensen niet gecontroleerde systemen, een bedreiging voor de mensheid kunnen vormen.

Over de gevaren van de ontwikkeling van kunstmatige intelligentie is al heel veel geschreven. De vooruitgang op dit gebied gaat gepaard met een aanzienlijke ecologische voetafdruk, aangezien datacenters, die nodig zijn voor het trainen van taalmodellen, enorme hoeveelheden energie en water vereisen. Vragen over privacy blijven onbeantwoord, aangezien gebruikers alles kunnen invoeren in taalmodellen – van familiefoto’s tot medische onderzoeksresultaten – en alles wordt onderdeel van een enorme data-magma waaruit Big Tech-bedrijven putten.

Er worden uiteindelijk soms minder en soms meer serieuze vragen gesteld over veiligheid en de toekomst – hoe controle systemen te implementeren, als zulke krachtige technologie wordt ontwikkeld door private bedrijven die onder geen enkele controle staan?

Als socioloog ben ik niet in staat om deze gevaren te beoordelen. Ik heb geen idee of we over 10 jaar wakker worden in een wereld uit Terminator. Ik beschik niet over de competenties om te beoordelen of de waarschuwingen dat onbeheerde AI-ontwikkeling zal leiden tot de wereldheerschappij door taalmodellen gebaseerd zijn op reële processen, of dat ze simpelweg een uitdrukking zijn van technofobie die kenmerkend is voor tijden van wetenschappelijke en technologische doorbraken. Ik kan echter wel vragen naar de aard van deze angsten, omdat ze ons iets heel Interessants vertellen over de sociale emoties die technologische ontwikkeling oproept.

AI en de academie

Het is een zo interessant vraagstuk omdat we slechts enkele weken geleden onze eigen, Poolse controverse hadden over AI – namelijk de zaak (on)beroemde rapport Polen portret eigen en prof. Barbara Mróz-Gorgoń. Het is verbazingwekkend hoe groot de reactie en de emotietemperatuur waren die ermee gepaard gingen. Naast de gebruikelijke online lynchpartij (ik schrijf “gebruikelijk”, omdat in het tijdperk van gepolariseerde sociale media zulke sterke reacties niet nieuw zijn), kwamen er veel kritische stemmen uit academische kringen. De woordvoerder van de Conferentie van Rectoren van Poolse Academische Scholen (een organisatie die de leiding heeft over Poolse universiteiten) eiste excuses van prof. Mróz-Gorgoń en vond het ongepast haar woorden dat “elke tweede professor ter wereld AI gebruikt”. Op sociale forums las ik veel kritische stemmen van academici, die zelfs spraken over de beschaming van de Poolse wetenschap.

Waar komt die sterke kritiek vandaan? Om die vraag te beantwoorden, moeten we ons realiseren wat kunstmatige intelligentie eigenlijk is vanuit het perspectief van de wetenschap als kennisproductiegebied – en vanuit het perspectief van wetenschappers als mensen die gespecialiseerd zijn in het produceren van die kennis.

AI en de wetenschap

Voorstanders zullen zeggen dat het een hulpmiddel is dat het werk vergemakkelijkt. Ik moet toegeven dat ik zelf gebruik maak van taalmodellen – vooral voor het overzicht van literatuur, wat een moeizaam maar noodzakelijk proces is als je wilt publiceren in gerenommeerde Engelstalige wetenschappelijke tijdschriften. Taalmodellen versnellen dat proces aanzienlijk, hun betaalde versies hallucineren bijna niet meer en kunnen wetenschappelijke artikelen selecteren die relevant zijn voor mijn onderwerp, zodat ik niet tientallen teksten hoef te lezen om er een paar te vinden die precies passen bij mijn onderzoek. Kunstmatige intelligentie stelt me ook in staat om te vertalen wat ik heb geschreven naar het Engels, wat een belangrijke voordeel is voor iemand die als vertegenwoordiger van een semi-perifere wetenschap concurreert met Engelstalige wetenschappers uit centrumlanden.

Er zijn nog andere niet-controversiële toepassingen van AI in de wetenschap, zoals het automatiseren van dataverzameling (bijvoorbeeld van websites, wanneer iemand discursieve analyses doet) of het vooronderzoek of diepgaande analyse ervan (bijvoorbeeld door het maken van voorlopige categorielijsten en het coderen van kwalitatieve data). Iedereen die subsidieaanvragen indient, gebruikt ook AI – het dient als een assistent die helpt bij het schrijven van een voorstel dat meer kans op succes heeft.

Critici van AI benadrukken dat overmatig gebruik van taalmodellen leidt tot een significante inflatie van wetenschappelijke productie. Volgens een analyse publiceert een wetenschapper die AI-tools gebruikt gemiddeld drie keer meer wetenschappelijke teksten en kan hij bijna vier keer meer citaties krijgen . Een andere studie toont een significante toename in het aantal ingediende subsidieaanvragen in het prestigieuze Marie Sklodowska-Curie-programma tussen 2022 en 2025. Dit alles maakt dat, hoewel het voor wetenschappers makkelijker is om een tekst of subsidieaanvraag te schrijven, de toenemende concurrentie het steeds moeilijker maakt om die tekst te publiceren of de subsidie te krijgen.

De beste wetenschappelijke tijdschriften en de meest prestigieuze subsidie-instanties worden bijna overspoeld door goed geschreven aanvragen. De toegenomen hoeveelheid wetenschappelijke kennis wordt niet gevolgd door een verhoogde vraag. De top-tijdschriften publiceren hetzelfde aantal artikelen, en de agentschappen beschikken over dezelfde budgetten, waardoor de succesratio (het percentage geaccepteerde artikelen of subsidieaanvragen ten opzichte van afgewezen) systematisch afneemt.

Recensies en peer review

Daarnaast is er de kwestie van peer review, een cruciale activiteit in het publiceren van onderzoek. Goed onderzoek moet worden geverifieerd en gecontroleerd door andere specialisten in het veld, zodat het aan een breder publiek kan worden gepresenteerd in een wetenschappelijk artikel. Double-blind peer review, dat wil zeggen anonieme beoordelingen door andere wetenschappers, is de standaard in de meeste wetenschappelijke disciplines. De inflatie van wetenschappelijke publicaties leidt er echter toe dat het steeds moeilijker wordt voor wetenschappers om tijd te vinden om een wetenschappelijk artikel zorgvuldig te lezen, een degelijke beoordeling te maken en een recensie te schrijven (stap voor stap de beoordeling motiveren).

Er is echter bewijs dat taalmodellen vaak niet alleen worden gebruikt voor het schrijven van wetenschappelijke teksten, maar ook voor het beoordelen ervan. We krijgen dus te maken met een situatie waarin kunstmatige intelligentie artikelen voor wetenschappers schrijft en vervolgens ook hun beoordeling overneemt.

Prestige in de wetenschap

Al deze negatieve verschijnselen hebben zeker de gedachten van degenen die zich bij de bijna unanieme kritiek op prof. Mróz-Gorgoń hebben aangesloten, beïnvloed. Ik wil hier niet hun goede bedoelingen in twijfel trekken. AI kan inderdaad een groot gevaar vormen voor de wetenschap, en haar instrumenten moeten uiterst voorzichtig worden gebruikt. De kritiek die op de mede-auteur van het rapport neerdaalde, is grotendeels gerechtvaardigd. Toch is de radicaliteit van deze reactie verbazingwekkend en verbergt het misschien een onbewuste angst – niet zozeer voor de directe gevolgen van technologische ontwikkeling voor een bepaalde activiteit, maar voor het verlies van status.

Mijn hypothese is dat de emoties die verband houden met de zaak van de voormalige overheidswoordvoerder voor de promotie van Polen in de wereld, een uitdrukking zijn van angst voor een radicale verandering van de regels van het academische spel gebaseerd op individueel prestige.

Vanuit het perspectief van een buitenstaander doen wetenschappers wat ze doen om het leven voor iedereen beter te maken. Wetenschappelijke kennis moet in het belang van alle mensen zijn (bijvoorbeeld om ons langer, gezonder en comfortabeler te laten leven). In de klassieke visie van socioloog Robert K. Merton zijn elementen van de academische ethos onder andere gemeenschappelijkheid en onbaatzuchtigheid, dat wil zeggen het geloof dat kennis het gemeenschappelijk erfgoed van de mensheid is en dat wetenschappelijke activiteit moet worden gedreven door de zoektocht naar de waarheid, niet door het nastreven van partikulieren belangen. Dit is echter een sterk idealiserend beeld, zoals ook veel critici van Merton hebben aangegeven.

Verandering van het spel om prestige

En toch, ik ontken niet dat wetenschappers onderzoek doen voor het welzijn van de mensheid. Maar ik bedoel vooral dat ook individueel prestige voor hen een uiterst belangrijke motivatie blijft. Het is misschien wel de belangrijkste valuta in de wereld van de wetenschap. Zoals een andere, meer aardse socioloog Pierre Bourdieu stelde, draait het in de wetenschap, net als in andere gebieden van de sociale activiteit, om macht. Macht in de wetenschap hangt af van de hoeveelheid prestige, die onder andere bestaat uit publicaties in prestigieuze tijdschriften, projecten gefinancierd door gerenommeerde subsidie-instanties en het aantal citaties.

Het aldus verzamelde prestige kunnen wetenschappers later ruilen voor andere hulpbronnen (bijvoorbeeld een hooggeprezen wetenschapper verdient meer) of hun kapitaal inzetten om ook buiten de academie succes te behalen (bijvoorbeeld door een bekend mediërend autoriteit te worden of zich in de politiek te mengen). Tegelijkertijd kan het verzamelen van de valuta prestige zeer moeilijk en veeleisend zijn, ook op persoonlijk vlak. Aan de andere kant hebben erkende wetenschappers, die al veel prestige hebben verworven, het daarna gemakkelijker en bereiken ze hun levensdoelen sneller.

Voor dat soort prestige is het uiterst belangrijk dat een wetenschappelijke prestatie wordt gekoppeld aan een specifieke persoon. Prestige kan altijd worden toegekend aan een bepaalde wetenschapper in het veld. Prestige is iemands eigendom; anders heeft het geen zin als valuta. Daarom hechten wetenschappers zoveel waarde aan het koppelen van een prestatie aan een naam – de geschiedenis kent vele geschillen over de eerste plaats van een publicatie, ontdekking of patent. Een ander goed voorbeeld van dit mechanisme is de discussie over de volgorde van auteurs in wetenschappelijke publicaties – de persoon op de eerste plaats heeft altijd het meeste prestige, de tweede iets minder, enzovoort. Ik heb zelf minstens enkele verhitte discussies meegemaakt over wie de eerste auteur zou moeten zijn.

Een goed voorbeeld is ook de eerder genoemde strijd over de eerste plaats bij het oplossen van het milenniumprobleem. Je zou kunnen vragen – wie maakt het uit wie die doorbraak als eerste heeft gerealiseerd, aangezien uiteindelijk de toename van kennis telt? Maar in de wetenschap gaat het helaas niet alleen daarover. Wetenschappers worden vooral gedreven door de wens iets betekenisvol te doen, zodat hun naam wordt vereeuwigd in de geschiedenis. We kunnen dat verschillend beoordelen, maar zo ziet het er vaak uit.

Verandering van het prestige-spel

En eigenlijk was dat zo, want de invoering van taalmodellen in het wetenschappelijke onderwijs herdefinieert de regels van het academische spel. AI maakt het veel sneller verzamelen van prestige mogelijk in de vorm van artikelen, subsidies en citaties. Zoals ik eerder heb aangegeven, is er al nu een sprong te zien in het aantal teksten dat wordt ingezonden naar topwetenschappelijke tijdschriften. De wetenschappelijke uitgeverij heeft zich goed aangepast aan deze omstandigheden – steeds populairder worden zogenaamde “kaleidoscoop-tijdschriften”, die tientallen teksten per dag publiceren, snelle beoordelingsroutes hebben en een hoge citeerbaarheid garanderen. Uitgevers zoals MDPI of Frontiers vormen zo een natuurlijk ecosysteem voor door AI ondersteunde wetenschap.

De effectiviteit van het gebruik van AI in wetenschappelijk werk betekent dat de weg naar de status van erkende wetenschapper steeds gemakkelijker wordt (ik negeer hier de kwaliteit van die kennis, dat is een heel ander onderwerp). In het traditionele model was het verzamelen van prestige meestal traag. In het AI-tijdperk versnelt alles echter. Een wetenschapper kan relatief snel aanzienlijke hoeveelheden prestige vergaren en daarmee op verschillende terreinen spelen, en zo concurreren met collega’s die nog op de oude manier hun carrière opbouwden.

Zoals u zich waarschijnlijk kunt voorstellen, leidt zo’n situatie onvermijdelijk tot een conflict tussen degenen die met taalmodellen kunnen werken en hun positie in de wetenschap “op de korte termijn” opbouwen, en degenen die daarvoor veel moeite en tijd hebben moeten investeren. Ik denk dat we dat soort reactie hebben gezien bij de Poolse academische gemeenschap op de zaak van prof. Mróz-Gorgoń.

Natuurlijk is het rapport Polen portret eigen een uitstekend voorbeeld van hoe je AI niet moet gebruiken. Tegelijkertijd is het ook een voorbode van hoe de academische strijd om prestige er in de toekomst uit zou kunnen zien en hoe degenen die nu de academische elite vormen, mogelijk niet in staat zullen zijn zich aan de nieuwe regels aan te passen. Prof. Mróz-Gorgoń is vanuit dat perspectief een uitdrukking van iets dat onvermijdelijk nadert – een toekomst die niet alleen een ingrijpende verandering betekent, maar ook alles op zijn kop zet en de bestaande hiërarchieën ondermijnt.

AI en het gevoel van vervreemding

AI zorgt er bovendien voor dat het antwoord op de vraag “wie is de auteur van het onderzoek/de patent/de ontdekking/de publicatie” uiterst problematisch wordt, wat ingaat tegen de kern – zoals ik eerder schreef – van de academische prestige, namelijk het auteurschap. In het traditionele model was dat vrij duidelijk – het was gemakkelijk om ontdekkingen aan een persoon toe te schrijven. En hoewel, zoals de geniale Ludwik Fleck al bijna honderd jaar geleden liet zien, groepen en collectieven de werkelijke makers van wetenschappelijke ontdekkingen zijn, is het volgens de regels van het academische veld een cruciale zet om te zeggen “ik ben de auteur van deze ontdekking”.

Laten we nog eens het voorbeeld nemen van de oplossing van het milenniumprobleem. Twee wiskundigen, die suggereerden dat OpenAI hun doorbraak “gestolen” zou kunnen hebben, baseerden zich in hun werk op taalmodellen. Die behoorden tot OpenAI, dus misschien hebben de wetenschappers zelf bijgedragen aan hun eigen nederlaag.

Wie is de auteur van de doorbraak? De wiskundigen die waarschijnlijk niet zelf in staat waren om het te doen, en daarom AI gebruikten? Of de eigenaren van OpenAI, die mogelijk prompts van die wiskundigen hebben gebruikt om hun modellen te verbeteren? Of de kunstmatige intelligentie zelf? Maar AI is natuurlijk gebaseerd op data die eerder door mensen zijn gemaakt, op de hele wetenschappelijke erfenis, en ook de prompts worden door mensen geformuleerd.

AI is uiteraard gebaseerd op kennis die door mensen in het taalmodel is geladen, dus uiteindelijk is iemand levend de bedenker van de ideeën die door de LLM worden voorgesteld. Maar hier ligt wel een probleem, namelijk de veelheid aan referenties die AI genereert en de snelheid waarmee die worden opgenomen. In traditioneel wetenschappelijk werk kost het tijd om andermans ideeën te absorberen en te gebruiken. Je moet het eerst lezen, begrijpen en erdoor geïnspireerd raken, en vervolgens creatief gebruik maken ervan, waardoor je denkwijze wordt getransformeerd. Als we AI gebruiken, versnelt dat proces enorm, en het mechanisme van absorptie (het eigen maken van andermans ideeën om er iets eigens mee te zeggen) vindt in feite niet plaats. Er is geen tijd meer dat andermans ideeën mijn eigen worden.

Dat leidt volgens mij tot een gevoel van vervreemding ten opzichte van het product van je eigen intellectuele werk. Als ik een artikel schrijf en AI voert correcties uit of suggereert uitbreidingen waar ik zelf niet op was gekomen, wie is dan uiteindelijk de auteur? Als AI begint te jongleren met concepten en theorieën die ik niet kende en alleen uit samenvattingen heb gehaald, gebruik ik die dan bewust (dat wil zeggen volgens mijn eigen, auteursrechtelijke intenties), of laat ik me gewoon door iemand anders leiden in mijn denken? Zoals ik eerder heb aangegeven, hebben de ideeën die in LLM’s circuleren waarschijnlijk hun eigen auteurs. Maar de ervaring dat je AI gebruikt in academisch werk kan leiden tot een ongemakkelijk gevoel van gebrek aan subjectiviteit voor wetenschappers.

De toekomst van de wetenschap en het zelfbeeld

In de tijd vóór AI dacht ik als wetenschapper na, ontdekte ik, presenteerde ik en verdiende ik prestige dat ik tijdens mijn carrière had opgebouwd. In het tijdperk van AI is dat niet meer zo vanzelfsprekend. Dit kan leiden tot existentiële vragen. Als het niet alleen ik ben die denkt, niet alleen ik de auteur ben, stopt de wereld misschien met mijn nodig te hebben als wetenschapper? Misschien zal de ontwikkeling van AI in de toekomst – wanneer de mogelijkheden van taalmodellen veel groter zijn dan nu – onvermijdelijk het besef veroorzaken dat je overbodig bent. Dit kan ondragelijk zijn voor denkers, voor wie subjectiviteit en individueel auteurschap, als onmisbare elementen van prestige, een belangrijk onderdeel van hun professionele identiteit vormen.

Laten we terugkeren naar de zaak van de voormalige overheidsadviseur. Prof. Mróz-Gorgoń heeft niet alleen enkele regels van het spel om prestige gebroken. Hoewel ze zelf een getrainde expert was, laat haar voorbeeld zien dat het intellectuele werk van zo’n specialist niet nodig is en kan worden gedelegeerd aan een relatief goedkoop en gebruiksvriendelijk apparaat.

De overdreven reactie op de beschaming van prof. Mróz-Gorgoń uitdrukt misschien een angst voor de toekomst waarin het auteurschap en de subjectiviteit van de wetenschapper overbodig worden. Een toekomst waarin ontdekkingen niet alleen aan wetenschappers worden toegeschreven, maar ook aan bedrijven en AI-modellen. Een toekomst waarin wetenschappelijke carrières (als die al bestaan) niet meer worden opgebouwd volgens de oude regels. Waar denken, kennis en intellectuele vaardigheden niet langer belangrijke sociale statusfactoren zijn.

We zijn allemaal Platonen

Om beter uit te leggen waar wetenschappers vandaag de dag staan (zowel in Polen als wereldwijd), is het nuttig te verwijzen naar de cruciale overgang in de geschiedenis van de cultuur van orale naar schriftelijke communicatie. De uitvinding en de brede verspreiding van schrift was een technologische revolutie die veel aspecten van het sociale leven veranderde, van handel tot wetenschap en politiek. Niet iedereen was echter enthousiast over deze technologische innovatie. Onder de felle critici van de schrift was onder andere Plato, die vond dat schrift het geheugen schaadt en filosofen het risico geeft niet begrepen te worden (de spreker kan immers verdedigen wat hij zegt; schrift dat eenmaal in de communicatiecirkel is gebracht, leeft zijn eigen leven, buiten de controle van de maker). De houding van Plato kan worden gelezen als iets meer dan eenvoudige technofobie: het is een houding van een lid van de elite die ziet dat de regels van de bestaande sociale hiërarchieën bruut worden veranderd, en dat zijn of haar competenties niet meer zo gewaardeerd zullen worden als vroeger.

De angst die ten grondslag lag aan sommige felle reacties op de zaak van prof. Mróz-Gorgoń, is een emotie die vergelijkbaar is met die van Plato. Natuurlijk zijn er veel enthousiastelingen van AI in de wetenschap, ik ontken dat niet. Maar in de academische wereld zijn er ook veel tegenstanders, die naast terechte bezwaren ook vrezen voor het verlies van hun eigen prestige en belangrijke elementen van hun identiteit.

Aan de ene kant kan AI bepaalde vaardigheden schaden, ons lui maken en misschien leiden tot een doodlopende weg. En er wordt nu al gesuggereerd dat de informatie die AI zelf genereert, de “voedingsbodem” wordt voor AI, waardoor het hele systeem op een lege loop begint te werken. Aan de andere kant veroorzaakt de snelle ontwikkeling een onderliggende angstige negatie, die zowel uit angst als uit een poging tot het stoppen van onomkeerbare (misschien) veranderingen voortkomt, die de bestaande wereld op zijn kop zetten.

**
Michał Wróblewski – socioloog, filosoof, werkzaam aan het Instituut voor Sociologie van de UMK in Toruń, geïnteresseerd in sociologie van de geneeskunde en milieusociologie. Momenteel doet hij onderzoek naar vaccinatie-scepsis en activisme gerelateerd aan luchtkwaliteitskwesties. Auteur onder andere van Whose fears? Whose science? Knowledge structures in the face of socio-scientific controversies (samen met A. Nowak en K. Abriszewski, Poznań 2016), Sociology of epidemics. Emerging infectious diseases in the perspective of social sciences (samen met Ł. Afeltowicz; Toruń 2021).

De post Kunstmatige intelligentie en de angsten van de academie verscheen voor het eerst op Krytyka Polityczna.