Artificiell intelligens och akademins rädslor

I början av september, under presentationen av den nya modellen GPT-6 Astra, tillkännagav OpenAI skapandet av så kallad generell artificiell intelligens. Det ska vara en sådan utvecklingsnivå för denna teknologi att språkmodellerna skulle närma sig människans mentala förmågor.

Även om detta uttalande mötte skepticism från AI-experter, ökade senare händelser spänningen kring AI:s potentiella möjligheter. Först tillkännagav OpenAI att deras språkmodell löst ett av de „milenniemålen” (dvs. matematiska problem av grundläggande betydelse för vetenskapen). Sedan spreds en ny information i sociala medier: matematiker, som varit nära att lösa samma problem och själva också använde GPT-modeller, uttryckte oro för att det genombrott som OpenAI tillkännagav hade skett tack vare deras arbete.

Låt oss också lägga till att det sedan en tid ofta dyker upp uttalanden från före detta anställda i media om att de modeller som OpenAI utvecklar är farliga och att de i framtiden, som fullt autonoma och kontrollfria system, kan hota mänskligheten.

Det har redan skrivits mycket om riskerna med utvecklingen av artificiell intelligens. Framsteg inom detta område är förknippade med ett allvarligt miljöavtryck, eftersom datacenter, som är nödvändiga för att träna språkmodeller, kräver enorma mängder energi och vatten. Frågor om privatliv förblir obesvarade, eftersom användare kan ladda in vad som helst i språkmodeller – från familjebilder till medicinska testresultat – och allt detta blir en del av en mäktig data-magma som stora teknikföretag använder sig av.

Slutligen ställs ibland mindre, ibland mer allvarliga frågor om säkerhet och framtid – hur man ska implementera kontrollsystem när så kraftfull teknologi utvecklas av privata företag som inte är under någon kontroll?

Som sociolog kan jag inte bedöma dessa hot. Jag har ingen aning om att vi om 10 år inte vaknar i en värld som liknar Terminatorn. Jag har inte kompetens att bedöma om varningar om att okontrollerad AI-utveckling kan leda till att språkmodeller tar över makten i världen är grundade i verkliga processer eller bara är ett uttryck för teknikfobi som är typisk för vetenskapliga och tekniska genombrottsperioder. Däremot kan jag fråga mig om karaktären på dessa rädslor, eftersom de berättar något mycket intressant om de sociala känslor som den teknologiska utvecklingen väcker.

AI och akademin

Det är ett så intressant ämne att för bara några veckor sedan hade vi en egen, polsk kontrovers kring AI – nämligen frågan om den (o)så kallade rapporten Polackerna – egen porträtt och prof. Barbora Mróz-Gorgoń. Det är förvånande hur stor reaktion och vilken temperatur av känslor detta väckte. Förutom den vanliga nätmobbningen (jag skriver „vanlig”, eftersom i dagens polariserade sociala medier är så starka reaktioner inget nytt), kom många kritiska röster mot den tidigare statsrådet för marknadsföring av Polen. Rådet för Konferensen för Rektorer vid Polskas universitet (en organisation som samlar ledare för polska universitet) krävde att prof. Mróz-Gorgoń skulle be om ursäkt och ansåg att det var olämpligt hennes uttalande att „varje andra professor i världen använder” artificiell intelligens. På sociala forum hördes många kritiska röster från akademin, som till och med talade om en skandal för den polska vetenskapen.

Varför så stark kritik? För att svara på detta måste vi förstå vad artificiell intelligens egentligen är ur ett vetenskapligt perspektiv som kunskapsproducerande område – och ur forskarnas perspektiv som personer specialiserade på att skapa denna kunskap.

AI och akademin

Entusiaster skulle svara att det är ett verktyg som underlättar arbetet. Här måste jag erkänna att jag själv använder språkmodeller – främst för att granska litteratur, vilket är en mödosam men nödvändig process om man vill publicera i välrenommerade engelskspråkiga vetenskapliga tidskrifter. Språkmodeller påskyndar denna process avsevärt, deras betalversioner hallucinerar knappt längre och kan välja ut vetenskapliga artiklar som passar mitt intresse, och jag behöver inte läsa dussintals texter för att hitta några som passar mitt område. Artificiell intelligens hjälper mig också att översätta det jag skrivit till engelska, vilket är en viktig fördel för någon som som representant för en semi-perifert vetenskapssamhälle måste konkurrera med engelskspråkiga forskare från centrumländer.

Det finns också andra, inte så kontroversiella tillämpningar av AI inom vetenskapen, som automatisering av datainsamling (t.ex. från webbsidor för diskursanalys) eller preliminär eller fördjupad dataanalys (t.ex. genom att skapa preliminära kategoriseringsnycklar och kodning av kvalitativa data). Alla som skriver ansökningar om forskningsbidrag använder också språkmodeller – AI fungerar utmärkt som assistent som kan ge tips om hur man skriver en ansökan för att öka chanserna till framgång.

Kritiker av AI understryker att överanvändning av språkmodeller leder till en betydande inflation av vetenskaplig produktion. Enligt en analys publicerar forskare som använder AI-verktyg i genomsnitt tre gånger fler vetenskapliga texter och kan förvänta sig nästan fyra gånger fler citeringar . En annan visar en betydande ökning av antalet ansökningar om forskningsbidrag i det prestigefyllda programmet Marie Sklodowska-Curie Actions mellan 2022 och 2025. Allt detta gör att även om det är lättare för forskare att skriva texter eller ansökningar, så ökar konkurrensen, och det blir allt svårare att publicera dessa eller få bidrag.

De bästa vetenskapliga tidskrifterna och de mest prestigefyllda bidragsbyråerna översvämmas nästan av välskrivna ansökningar. Den ökade tillgången på vetenskaplig kunskap möts inte av en ökad efterfrågan. De bästa tidskrifterna publicerar samma antal artiklar, och byråerna har samma budgetar, vilket gör att framgångsprocenten (andelen accepterade artiklar eller bidragsansökningar jämfört med avslag) minskar systematiskt.

Recensioner och peer review

Detta gäller även granskning, en nyckelaktivitet inom publicering av forskning. Bra studier måste genomgå verifiering och granskas av andra experter inom området för att kunna presenteras för en bredare publik i en vetenskaplig artikel. Double-blind peer review, alltså anonym granskning av andra forskare, är standard i de flesta vetenskapsfält. Inflationen av vetenskapliga publikationer gör dock att det blir allt svårare för forskare att hitta tid att noggrant läsa en vetenskaplig artikel, göra en ärlig bedömning och skriva en recension (steg för steg mot en motivering av bedömningen).

Det finns dock bevis för att språkmodeller ofta används inte bara för att skriva vetenskapliga texter, utan även för att bedöma dem. Vi har alltså en situation där artificiell intelligens skriver artiklar åt forskare och sedan hjälper dem att bedöma dessa material.

Prestige inom vetenskapen

Alla dessa negativa fenomen är säkert vad de som anslutit sig till den nästan eniga kritiken av prof. Mróz-Gorgoń tänkte på. Jag vill inte ifrågasätta deras goda avsikter. AI kan verkligen vara ett stort hot mot vetenskapen, och dess verktyg måste användas med yttersta försiktighet. Den kritik som riktades mot medförfattaren av rapporten är till stor del berättigad. Men den radikala reaktionen är förvånande och kan kanske dölja en omedveten rädsla – inte så mycket för de direkta konsekvenserna av teknologisk utveckling för en viss verksamhet, utan för att förlora status.

Min hypotes är följande: känslor kopplade till rapporten från den tidigare statsrådet för marknadsföring av Polen i världen är ett uttryck för rädsla för en radikal förändring av de akademiska spelreglerna baserade på individuell prestige.

Ur en utomståendes perspektiv gör forskare det de gör för att alla ska kunna leva bättre. Vetenskaplig kunskap ska tjäna allas intressen (t.ex. att vi ska leva längre, friskare och bekvämare). Enligt den klassiska sociologen Robert K. Merton är element i den akademiska etiken bland annat kollektivism och osjälviskhet, det vill säga övertygelsen att kunskap är ett gemensamt arv för hela mänskligheten och att vetenskaplig verksamhet bör drivas av strävan efter sanning, inte av att tillgodose partikulära intressen. Detta är dock en mycket idealiserad bild, som många kritiker av Merton har påpekat.

Jag erkänner självklart att forskare bedriver forskning för mänsklighetens bästa. Men jag menar att en mycket viktig motivation för dem är också individuell prestige. Den kan vara den viktigaste valutan i den vetenskapliga världen. Enligt en annan, mer jordnära sociolog, Pierre Bourdieu, handlar vetenskapen, liksom andra områden av social aktivitet, om makt. Makt inom vetenskapen beror på prestige, som bland annat består av publikationer i prestigefyllda tidskrifter, finansierade projekt av välrenommerade bidragsbyråer eller citeringsfrekvens.

Den samlade prestigen kan forskare senare byta mot andra resurser (t.ex. kan en högt ansedd forskare tjäna mer pengar) eller använda sitt kapital för att nå framgång även utanför akademin (t.ex. kan en högt ansedd forskare bli en känd medieautoritet eller engagera sig i politik). Samtidigt kan ackumulering av den valuta som är prestige vara mycket svårt och kräva många uppoffringar, även personliga. Å andra sidan har erkända forskare, som redan har mycket prestige, lättare att nå sina livsmål snabbare.

För den prestige som beskrivs här är det mycket viktigt att tilldela ett vetenskapligt resultat till en specifik person. Prestigen kan alltid tilldelas en viss forskare i det vetenskapliga fältet. Prestigen är någons, annars är den meningslös som valuta. Därför lägger forskare stor vikt vid att tilldela ett resultat till ett visst namn – historien är full av tvister om vem som publicerade först, upptäckte eller patenterade något. Ett annat exempel är diskussioner om författarordningen i vetenskapliga publikationer – den som står först har alltid mest prestige, den andra lite mindre, och så vidare. Jag har själv bevittnat minst några heta diskussioner om vem som borde ha förstaplatsen i författarlistan.

Ett annat exempel är den redan nämnda tvisten om vem som först löste ett milstolpsproblem. Man kan fråga sig – vem bryr sig egentligen vem som gjorde detta genombrott först, när det slutgiltiga målet är att öka kunskapen? I vetenskapen handlar det tyvärr inte bara om det. Forskarna drivs mycket av en önskan att göra något betydelsefullt, som gör att deras namn skrivs in i historieböckerna. Vi kan ha olika åsikter om detta, men så ser ofta verkligheten ut.

Förändring av spelet om prestige

Och det var så det såg ut, men införandet av språkmodeller i vetenskapen i stor skala omdefinierar de akademiska spelreglerna. AI möjliggör mycket snabbare ackumulering av prestige i form av artiklar, bidrag och citeringar. Som jag nämnde tidigare sker redan nu en dramatisk ökning av antalet texter som skickas till topp-tidskrifter. Vetenskapens utgivningsmarknad har dessutom anpassat sig väl till dessa förhållanden – allt fler publicerar så kallade „kombajntidskrifter” som publicerar ett dussintal texter per dag, har snabba granskningsprocesser och garanterar hög citerbarhet. Utgivare som MDPI eller Frontiers blir en naturlig ekosystem för AI-stödd vetenskap.

Effekten av att använda AI i forskningsarbetet gör att vägen till att bli en erkänd forskare blir allt enklare (jag bortser här från kvaliteten på sådan kunskap, det är en helt annan diskussion). I den traditionella modellen var det ofta en långsam process att samla prestige. I AI-eran accelererar allt detta. En forskare kan ganska snabbt samla relativt mycket prestige och använda det på olika områden, och konkurrera med de som „har byggt upp” sin status på gamla principer.

Som lätt kan förutses leder detta till en konflikt mellan de som behärskar språkmodeller och bygger sin position i vetenskapen „på genvägar”, och de som har lagt mycket tid och ansträngning för att nå framgång. Jag tror att vi såg detta i den polska akademiska miljöns reaktion på prof. Mróz-Gorgoń.

Självklart är rapporten Polaków portret własny ett utmärkt exempel på hur man inte bör använda AI. Men det är också en föraning om hur den akademiska kampen om prestige kan se ut i framtiden, och hur de som idag utgör eliten inom akademin kanske inte kommer att kunna anpassa sig till de nya reglerna. Prof. Mróz-Gorgoń är i detta perspektiv ett uttryck för något som oundvikligen är på väg – en framtid som inte bara innebär en stor förändring, utan också kan vända upp och ner på de nuvarande hierarkierna.

AI och känslan av alienation

AI gör dessutom att svaret på frågan „vem är författare till forskningen/patenten/upptäckten/artikeln” blir mycket problematiskt, vilket slår mot den centrala – som jag skrev ovan – dimensionen av akademiskt prestige, nämligen författarskapet. I den traditionella modellen var det ganska enkelt att koppla upptäckten till en person – och även om Ludwik Fleck för nästan hundra år sedan visade att grupper och kollektiver är de verkliga skaparna av vetenskapliga upptäckter, är det enligt de rådande reglerna inom det akademiska fältet ett avgörande steg att säga „det är jag som är författare till detta upptäcktsarbete”.

Ta återigen exemplet med lösningen av milstolpsproblemet. Två matematiker, som hävdade att OpenAI kan ha „stulit” deras genombrott, baserade själva sitt arbete på språkmodeller. Dessa tillhörde OpenAI, så kanske forskarna själva bidrog till sin egen förlust.

Vem är egentligen författare till genombrottet? De matematikern, som sannolikt inte hade klarat detta utan AI? Eller ägarna av OpenAI, som kanske använde prompts som de formulerat tillsammans med dessa matematiker för att förbättra sina modeller? Eller själva artificiella intelligensen? Men AI bygger ju på data som tidigare skapats av människor, på hela vetenskapens samlade arv, och prompts formuleras också av en människa.

AI bygger naturligtvis på kunskap som laddats in i språkmodellen av en människa, så i slutändan är det någon levande som är upphovsman till de idéer som LLM:n ger oss. Men det finns ett problem här, nämligen den mångfald av referenser som AI genererar och den hastighet med vilken de absorberas. I traditionellt akademiskt arbete krävs tid för att ta till sig och använda andras idéer, vilket i viss mån omvandlar den som använder andras vetenskapliga prestationer. För att citera en text måste jag först läsa den, förstå den och bli inspirerad av den, och sedan skapa något eget utifrån den, vilket i sig förändrar mitt sätt att tänka. När man använder AI går denna process mycket snabbare, och mekanismen för att absorbera andras idéer – att ta till sig andras vetenskapliga prestationer för att skapa något eget – sker i princip inte. Det finns alltså ingen tid för andras idéer att bli mina egna.

Detta skapar, enligt min mening, en känsla av alienation från det egna intellektuella arbetet. Om jag skriver en artikel och AI gör korrigeringar eller föreslår utvecklingar som jag själv inte skulle ha kommit på, vem är då egentligen författare till artikeln? Om AI börjar jonglera med koncept och teorier som jag inte kände till och bara absorberade via sammanfattningar, använder jag dem medvetet (det vill säga i enlighet med mina egna avsikter), eller låter jag mig styras av någon annan i mitt tänkande? Som jag nämnde tidigare, har idéer som cirkulerar i LLM:er sannolikt sina författare. Men erfarenheten av att använda AI i akademiskt arbete kan leda till en obekväm känsla av brist på subjektivitet för forskare.

I tider före AI tänkte jag som forskare, upptäckte, presenterade och diskuterade den prestige jag samlat på mig under min karriär. I AI-tid är detta inte längre så självklart. Det kan leda till existentiella frågor. Om det inte bara är jag som tänker, inte bara jag som är författare, kanske forskarrollen i världen inte längre är nödvändig? Kanske kommer utvecklingen av AI i framtiden – när språkmodellernas möjligheter är mycket större än idag – att skapa en oemotståndlig känsla av att vara överflödig. Det kan bli outhärdligt för intellektuella, för vilka subjektivitet och det individuella författarskapet som en nödvändig del av prestige är viktiga element i deras yrkesidentitet.

Låt oss återgå till fallet med den tidigare statsrådet. Prof. Mróz-Gorgoń bröt inte bara mot vissa regler för spelet om prestige. Även om hon själv spelade rollen som en tränad expert, visar hennes exempel att det inte behövs och att intellektuellt arbete av en sådan specialist kan delegeras till en relativt billig och lättanvänd apparat.

Den överdrivna reaktionen på prof. Mróz-Gorgońs skandal uttrycker kanske en rädsla för en framtid där det individuella författarskapet och forskarens subjektivitet blir föråldrade. En framtid där upptäckter tilldelas inte bara forskare utan också företag och AI-modeller. En framtid där forskarkarriärer (om sådana ens finns) inte längre byggs på de nuvarande principerna. Där tänkande, kunskap och intellektuella kompetenser inte längre är viktiga indikatorer på social status.

Alla är Platon

För att bättre förklara var forskare befinner sig idag (i Polen och världen) kan man hänvisa till den avgörande övergången i kulturens historia från muntlighet till skrift. Uppfinningen och spridningen av skriften var en teknologisk revolution som förändrade många aspekter av det sociala livet, från handel till vetenskap och politik. Men inte alla var entusiastiska över denna teknologiska nyhet. Bland dess hårdaste kritiker fanns bland annat Platon, som ansåg att skrift förstör minnet och riskerar att göra filosofer oförmögna att förstå (den som talar kan försvara det den säger; skrift som sprids lever sitt eget liv, utanför skaparen). Platons hållning kan tolkas som något mer än enkel teknikfobi: det är en hållning från en elit som ser att de nuvarande hierarkiernas principer brutalt förändras, och att deras kompetenser inte längre kommer att värderas lika högt som förr.

Rädsla, som låg bakom vissa starka reaktioner på prof. Mróz-Gorgońs fall, är en känsla som är typisk för en liknande hållning som Platons. Det finns förstås många entusiaster av AI inom vetenskapen, jag förnekar inte det. Men i den akademiska världen finns också många motståndare, som utöver rättvisa invändningar fruktar att förlora både sitt eget prestige och viktiga delar av sin identitet.

Å ena sidan kan AI säkert förstöra vissa kompetenser, göra oss lata, och kanske leda oss till ett blindställe. Redan nu pekas det på att information som genereras av AI själva blir en näring för AI, vilket gör att hela systemet börjar arbeta på tomgång. Å andra sidan väcker den snabba utvecklingen en rädslo- och motreaktion, som är ett uttryck för rädsla men också ett försök att stoppa de kanske oåterkalleliga (kanske) förändringar som vänder upp och ner på den nuvarande världen.

**
Michał Wróblewski – sociolog, filosof, arbetar vid Sociologiska institutionen vid UMK i Toruń, intresserar sig för medicinsociologi och miljösociologi. För närvarande bedriver han forskning om vaccinsam skepticism och aktivism relaterad till luftkvalitet. Författare till bland annat Vems rädsla? Vems vetenskap? Kunskapsstrukturer i mötet med vetenskapliga och sociala kontroverser (tillsammans med A. Nowak och K. Abriszewski, Poznań 2016), Sociologi av epidemier. Framväxande smittsamma sjukdomar ur ett samhällsvetenskapligt perspektiv (tillsammans med Ł. Afeltowicz; Toruń 2021).

Inlägget Artificiell intelligens och akademins rädslor publicerades först på Krytyka Polityczna.