Tekoäly ja akateemian pelot

Aluksi syyskuussa, uuden GPT-6 Astra -mallin esittelyn yhteydessä OpenAI ilmoitti niin kutsutun yleisen tekoälyn syntymisestä. Tämän tulisi olla sellainen kehitystaso, joka lähentäisi kielimalleja ihmisen älyllisiin kykyihin.

Vaikka tämä julistus kohtasi myös skeptisyyttä AI-alan asiantuntijoilta, jatkossa tapahtumat lisäsivät jännitystä tekoälyn mahdollisuuksien ympärillä. Ensin OpenAI ilmoitti, että heidän kielimallinsa oli ratkaissut yhden ”miljardien ongelmista” (eli matemaattisen ongelman, jolla on perustavanlaatuinen merkitys tieteelle). Sitten sosiaalisessa mediassa levisi uusi tieto: matemaatikot, jotka olivat olleet lähellä saman ongelman ratkaisua ja jotka myös olivat käyttäneet GPT-malleja, ilmaisivat huolensa siitä, että OpenAI:n julkistama läpimurto oli saavutettu heidän työnsä ansiosta.

Lisätään vielä, että jonkin aikaa yhä useammat mediat kertoivat entisten OpenAI-työntekijöiden lausunnoista, joiden mukaan OpenAI:n luomat mallit ovat vaarallisia ja tulevaisuudessa, täysin autonomisina ja ihmisen kontrollin ulkopuolisina järjestelminä, voivat uhata ihmiskuntaa.

Tähän mennessä on kirjoitettu jo todella paljon tekoälyn kehityksen uhkista. Tämän alan edistyminen liittyy vakavaan ympäristöjalanjälkeen, sillä datakeskukset, jotka ovat välttämättömiä kielimallien kouluttamisessa, vaativat valtavia määriä energiaa ja vettä. Yksityisyydestä esitetään edelleen kysymyksiä, koska käyttäjät voivat ladata kielimalleihin mitä tahansa – perhekuvista lääketutkimusten tuloksiin – ja kaikki tämä muodostuu osaksi valtavaa datamassaa, jota hyödyntävät suuret teknologiayritykset.

Lopulta nousee esiin yhä vakavampia kysymyksiä turvallisuudesta ja tulevaisuudesta – kuinka ottaa käyttöön valvontajärjestelmiä, jos näin voimakas teknologia kehittyy yksityisten yritysten toimesta, jotka eivät ole kenenkään kontrollin alaisia?

Sosiologina en pysty arvioimaan näitä uhkia. En tiedä, heräämmekö 10 vuoden kuluttua maailmassa, joka muistuttaa Terminatoria. En ole pätevä arvioimaan, ovatko varoitukset siitä, että kontrolloimaton AI-kehitys johtaa kielimallien vallanottoon maailmassa, todellisia prosesseja vai pelkkiä teknofobiaa, joka on tyypillistä tieteellisten ja teknisten murrosten aikana. Voisin kuitenkin kysyä näiden pelkojen luonnetta, sillä ne kertovat meille jotain erittäin mielenkiintoista yhteiskunnallisista tunteista, joita teknologinen kehitys herättää.

AI ja akateeminen maailma

Tämä on niin mielenkiintoinen kysymys, että vain muutama viikko sitten meillä oli oma, puolalainen kiistanaihe AI:n ympärillä – nimittäin (epä)maineikkaan raporttiin Puolalaisten oma kuva ja professori Barbara Mróz-Gorgońin. Hämmästyttävää on reaktioiden laajuus ja tunnekuohut, joita se herätti. Perinteisen nettihyökkäyksen (kirjoitan ”perinteisen”, koska polarisoituneiden sosiaalisten medioiden aikakaudella tällaiset voimakkaat reaktiot eivät ole uusi ilmiö) lisäksi monia kriittisiä ääniä tuli akateemisten yhteisöjen taholta. Konferenssin rehtoreiden neuvoston (järjestön, joka edustaa johtajia puolalaisilla korkeakouluilla) edustaja vaati Prof. Mróz-Gorgońilta anteeksipyyntöä ja piti sopimattomana hänen sanojaan, että ”ko toinen professori maailmassa käyttää” tekoälyä. Sosiaalisen median keskusteluissa kuului myös paljon kritiikkiä akateemisten edustajien taholta, jopa puheita suomalaisen tieteen nöyryyttämisestä.

Mistä tällainen voimakas kritiikki johtuu? Vastatakseni tähän kysymykseen, on ymmärrettävä, mitä tekoäly oikeastaan on tieteestä katsottuna – tietämyksen tuottamisen alueena – ja tutkijoiden näkökulmasta, jotka ovat erikoistuneet tämän tiedon tuottamiseen.

AI ja akateeminen maailma

Väittäisin, että innostujat näkevät sen työkaluna, joka helpottaa työtä. Tässä kohtaa minun on myönnettävä, että käytän kielimalleja – pääasiassa kirjallisuuden läpikäymiseen, mikä on työlästä mutta välttämätöntä, jos haluaa julkaista arvostetuissa englanninkielisissä tieteellisissä lehdissä. Kielimallit nopeuttavat tätä prosessia merkittävästi, niiden maksulliset versiot harvoin enää harhailevat ja osaavat valita tieteellisiä artikkeleita kiinnostavan aiheen mukaan, ja minun ei tarvitse lukea kymmeniä tekstejä löytääkseni muutaman, jotka sopivat juuri minun tutkimusalaani. Tekoäly myös mahdollistaa sen, että voin kääntää englanniksi sen, mitä olen kirjoittanut, mikä on tärkeä etu niille, jotka edustavat puoliperiferistä tiedettä ja joutuvat kilpailemaan englanninkielisten tutkijoiden kanssa keskusten maista.

On myös muita ei-niin kiistanalaisia AI:n sovelluksia tieteessä, kuten datan keräämisen automatisointi (esim. verkkosivuilta, kun joku tekee diskurssianalyysejä) tai niiden alustava tai syventävä analyysi (esim. luomalla alustavia kategorisointikortteja ja koodaten laadullisia tietoja). Kielimalleja käyttävät myös kaikki, jotka tekevät apurahahakemuksia – AI toimii erinomaisesti avustajana, joka ehdottaa, miten hakemuksen voi kirjoittaa menestyäkseen paremmin.

AI:n kriitikot korostavat, että kielimallien liiallinen käyttö johtaa merkittävään tieteellisen tuotannon inflaatioon. Yhden analyysin mukaan tutkija, joka käyttää AI-työkaluja, julkaisee keskimäärin kolme kertaa enemmän tieteellisiä tekstejä ja saa lähes neljä kertaa enemmän viittauksia. Toisen analyysin mukaan taas näkyy merkittävä kasvu hakemusten määrässä Marie Sklodowska-Curie -ohjelmassa vuosina 2022–2025. Tämä kaikki tarkoittaa sitä, että vaikka tutkijoiden on helpompi kirjoittaa teksti tai hakemus, lisääntynyt kilpailu tekee entistä vaikeammaksi julkaista tekstiä ja saada rahoitusta.

Parhaat tieteelliset lehdet ja arvostetuimmat apurahahankkeet ovat kuin tulvassa hyvin kirjoitettuja hakemuksia. Tämän lisääntyneen tieteellisen tiedon tarjonnan ei kuitenkaan seuraa lisääntynyt kysyntä. Parhaat lehdet julkaisevat saman määrän artikkeleita, ja rahoituslaitokset käyttävät samoja budjetteja, minkä vuoksi menestystekijä (hyväksyttyjen artikkelien tai hakemusten suhde hylättyihin) pienenee jatkuvasti.

Arviointi ja vertaisarviointi

Lisäksi on olemassa todisteita siitä, että kielimalleja käytetään usein paitsi tieteellisten tekstien kirjoittamiseen, myös niiden arviointiin. Meillä on siis tilanne, jossa tekoäly kirjoittaa tutkijoiden puolesta artikkeleita ja myös arvioi niitä.

Arvostus tieteessä

Kaikki nämä negatiiviset ilmiöt ovat varmasti olleet mielessä, kun monet liittyivät lähes yhtenäiseen kritiikkiin Prof. Mróz-Gorgońia kohtaan. En halua tässä kyseenalaistaa heidän hyviä aikomuksiaan. Tekoäly voi todellakin olla suuri uhka tieteelle, ja sen työkaluja tulee käyttää erittäin varovasti. Itse raportin yhteydessä esitetty kritiikki on suurelta osin perusteltua. Kuitenkin tämän reaktion radikaalius on mietityttävää ja ehkä piilottaa jonkinlaisen tiedostamattoman pelon – ei niinkään teknologisen kehityksen suoria seurauksia tiettyyn toimintaan, vaan aseman menettämisen pelkoa.

Minun hypoteesini on seuraava: entisen hallituksen tiedotuspäällikön raportin asiaan liittyvät tunteet ovat pelkoa akateemisen pelin sääntöjen radikaalista muutoksesta, joka perustuu yksilölliseen arvostukseen.

Ulkopuolisen näkökulmasta tutkijat tekevät sitä, mitä tekevät, jotta kaikilla olisi parempi elämä. Tieteellinen tieto palvelee kaikkien ihmisten etuja (esim. pidentää elinikää, parantaa terveyttä ja lisää mukavuutta). Klassisen sosiologi Robert K. Mertonin mukaan akateemisen eetoksen osia ovat muun muassa yhteisöllisyys ja epäitsekkäisyys, eli usko siihen, että tieto on koko ihmiskunnan yhteistä perintöä ja tieteellinen toiminta tulisi ajaa totuuden etsimisen vuoksi, ei yksittäisten etujen saavuttamiseksi. Tämä on kuitenkin suurelta osin idealisoitu kuva, johon monet Mertonin kriitikot ovat viitanneet.

En kiistä tietenkään, että tutkijat tekevät tutkimuksia ihmiskunnan hyväksi. Minulle on kuitenkin tärkeää, että myös heidän motivaationsa on vahvasti yksilöllinen arvostus. Se saattaa olla jopa tärkein valuutta tieteessä. Toisen, maanläheisemmän sosiologin Pierre Bourdieu’n mukaan tieteessä, kuten muillakin yhteiskunnan aloilla, kyse on vallasta. Vallasta tieteessä kertoo muun muassa se, kuinka paljon arvostusta tutkija on saanut – esimerkiksi julkaisut arvostetuissa lehdissä, rahoitus suuremmilta apuraha- ja tutkimusorganisaatioilta tai viittaukset.

Tämä ansaittu arvostus voi myöhemmin vaihtua muihin resursseihin (esim. korkeasta arvostuksesta nauttiva tutkija voi saada enemmän palkkaa) tai sitä voi käyttää oman aseman vahvistamiseen myös muilla aloilla (esim. tunnetuksi medialukuiseksi asiantuntijaksi tai poliittiseen vaikuttamiseen). Samalla arvostuksen kerääminen voi olla erittäin vaikeaa ja vaatia paljon uhrauksia, myös henkilökohtaisia. Toisaalta arvostetut tutkijat, jotka ovat jo saavuttaneet paljon arvostusta, saavuttavat tavoitteensa helpommin ja nopeammin.

Tälle arvostukselle on erittäin tärkeää, että tietty tieteellinen saavutus liitetään tiettyyn henkilöön. Arvostus voi aina liittyä tiettyyn tutkijaan. Arvostus on kuin valuutta, jolla on merkitystä vain, jos se on jonkun omaa. Siksi tutkijat kiinnittävät niin paljon huomiota siihen, että saavutus liitetään oikeaan nimeen – historiassa on monia kiistoja siitä, kuka on oikeasti ollut ensimmäinen jonkin julkaisun, löydön tai patentin takana. Toinen hyvä esimerkki tästä mekanismista on keskustelut siitä, kuka on ensimmäisenä julkaissut tietyn tutkimuksen – ensimmäisellä sijalla oleva henkilö nauttii aina eniten arvostusta, toinen hieman vähemmän, ja niin edelleen. Olen ollut todistamassa ainakin muutamaa kiivasta keskustelua siitä, kenen nimi pitäisi olla ensimmäisenä.

Hyvä esimerkki on myös jo mainittu kiista siitä, kuka on ensimmäisenä ratkaissut miljardien ongelman. Voidaan kysyä – kuka oikeasti välittää siitä, kuka teki tämän läpimurron ensimmäisenä, kun lopulta kyse on tiedon lisääntymisestä? Valitettavasti tieteessä ei kuitenkaan ole kyse vain siitä. Tutkijoita ajaa suurelta osin halu tehdä jotain merkittävää, mikä jää historiaan. Voimme arvioida tätä eri tavoin, mutta usein näin on.

Pelien muutos arvostuksen osalta

Ja niin se oikeastaan oli, mutta kielimallien käyttöönotto laajassa mittakaavassa muuttaa akateemisen pelin sääntöjä uudelleen. AI mahdollistaa paljon nopeamman arvostuksen keräämisen artikkelien, apurahojen ja viittauksien muodossa. Kuten aiemmin mainitsin, jo nyt on tapahtunut jyrkkä kasvu korkeatasoisiin tieteellisiin lehtiin lähetettyjen tekstien määrässä. Tieteellinen julkaisemismarkkina on myös sopeutunut tähän – yhä suositummiksi ovat tulleet niin sanotut kombainilehdet, jotka julkaisevat kymmenkunta tekstiä päivässä, niillä on nopeat arviointiprosessit ja ne takaavat korkean viittausmäärän. Esimerkiksi MDPI ja Frontiers -kustantamot muodostavat luonnollisen ekosysteemin tekoälyn tukemalle tieteelle.

Tekoälyn avustaminen tieteellisessä työssä tekee siitä yhä helpompaa saavuttaa asema arvostettuna tutkijana (jätän tässä huomiotta laadun). Perinteisessä mallissa, ainakin suurimmassa osassa tapauksia, arvostuksen kerääminen oli hitaampaa. AI-aikana kaikki kuitenkin nopeutuu. Tutkija voi melko nopeasti saavuttaa suhteellisen suuren arvostuksen ja käyttää sitä eri aloilla, kilpaillen samalla akateemisen maailman edustajien kanssa, jotka ”on ansainnut” vielä vanhoilla säännöillä.

Kuten on helppo arvata, tällainen tilanne johtaa väistämättä konfliktiin niiden välillä, jotka osaavat käyttää kielimalleja ja rakentavat asemansa ”sääntöjen oikaisulla”, ja niiden, jotka ovat joutuneet tekemään paljon uhrauksia ja käyttämään aikaa. Uskon, että vastaavaa on nähty myös suomalaisen akateemisen yhteisön reaktiossa Prof. Mróz-Gorgońin tapaukseen.

Tietenkin, itse raportti Puolalaisten oma kuva on erinomainen esimerkki siitä, kuinka AI:ta ei tulisi käyttää. Samalla se kuitenkin antaa esimakua siitä, miltä akateeminen peli arvostuksesta voi tulevaisuudessa näyttää ja kuinka ne, jotka nykyään muodostavat akateemisen eliitin, eivät ehkä pysty sopeutumaan uusiin sääntöihin. Prof. Mróz-Gorgoń on tästä näkökulmasta jotain, mikä varmasti on tulossa – tulevaisuus, joka ei ainoastaan merkitse suurta muutosta, vaan myös kääntää nykyiset hierarkiat päälaelleen.

AI ja ulkopuolisuuden tunne

AI tekee myös niin, että vastaus kysymykseen ”kuka on tutkimuksen/patentin/löytöjen/artikkelin tekijä” muuttuu erittäin ongelmalliseksi, osuen samalla keskeiseen – kuten aiemmin kirjoitin – akateemisen arvostuksen ulottuvuuteen, eli tekijyyteen. Perinteisessä mallissa tilanne oli melko selkeä – oli helppoa liittää löydös henkilölle. Vaikka, kuten esimerkiksi nerokas Ludwik Fleck jo lähes sata vuotta sitten osoitti, ryhmät ja kollektiivit ovat todellisia tieteellisten löytöjen tekijöitä, niin akateemisen alan sääntöjen mukaan lause ”minä olen tämän löydön tekijä” on avainasemassa arvostuksen saavuttamisessa.

Palataan vielä kerran miljardien ongelman ratkaisuun. Kaksi matemaatikkoa, jotka ehdottivat, että OpenAI saattoi ”varastaa” heidän läpimurtonsa, itse työssään käyttivät kielimalleja. Nämä kuului OpenAI:lle, joten ehkä tutkijat itse osaltaan osallistuivat epäonnistumiseensa.

Kuka on tämän läpimurron tekijä? Nämä matemaatikot, jotka mahdollisesti eivät olisi pystyneet sitä itse tekemään, vaan käyttivät AI:ta? Vai OpenAI:n omistajat, jotka ehkä hyödynsivät näiden matemaatikkojen laatimia kehotteita parantaakseen omia mallejaan? Vai itse tekoäly? Mutta AI perustuu kuitenkin ihmisten aiemmin luomaan dataan, koko tieteellisen saavutuksen pohjaan, ja kehotteetkin muotoilee ihminen.

AI perustuu tietoon, joka on syötetty kielimalliin ihmisen toimesta, joten lopulta joku elävä on idean tekijä, jonka LLM ehdottaa. Tässä on kuitenkin ongelma, joka liittyy AI:n tuottamien viitteiden moninaisuuteen ja niiden omaksumisen nopeuteen. Perinteisessä akateemisessa työssä toisten ideoiden omaksuminen ja käyttö vaatii aikaa ja muuttaa jollain tavalla sitä, joka käyttää toisten tieteellisiä saavutuksia. Jotta voin siteerata jonkin tekstin, minun on ensin luettava se, ymmärrettävä ja inspiroitava siitä, ja luotava siitä oma versio, mikä muuttaa tapaani ajatella. Kun käytämme tekoälyä, tämä prosessi nopeutuu merkittävästi, ja absorptiomekanismi (omaksun toisten ideat ja käytän niitä omiin tarkoituksiini) ei oikeastaan toteudu. Ei ole aikaa, että toisten ideat muuttuisivat omikseni.

Tämä mielestäni aiheuttaa ulkopuolisuuden tunnetta omasta älyllisestä työstä. Jos kirjoitan artikkelin ja AI tekee siihen korjauksia tai ehdottaa laajennuksia, joita en itse olisi keksinyt, kuka lopulta on artikkelin tekijä? Jos AI alkaa jonglööraamaan käsitteillä ja teorioilla, joita en tuntenut ja jotka omaksuin vain tiivistelmistä, käytänkö niitä tietoisesti (eli omien, tekijänoikeudellisten tarkoitusteni mukaisesti) vai antaudunko vain jonkin toisen ohjailtavaksi omassa ajattelussani? Kuten aiemmin mainitsin, LLM:ien ideat todennäköisesti omaavat omat tekijänsä. Kuitenkin kokemukseni AI:n käytöstä akateemisessa työssä voi johtaa epämukavaan tunteeseen, että minulla ei ole subjektiivisuutta.

Aikaisemmin, ennen AI:n aikaa, ajattelin, että minä tutkijana mietin, löysin, esitin ja ansaitsin saavutettua arvostusta urani aikana. Nyt AI:n aikakaudella tämä ei ole enää niin itsestään selvää. Tämä voi johtaa eksistentiaalisiin kysymyksiin. Jos en enää ole vain minä, joka ajattelen ja olen tekijä, niin ehkä tutkijana maailma ei enää tarvitse minua? Tulevaisuudessa, kun kielimallien mahdollisuudet kasvavat paljon nykyistä suuremmiksi, voi tulla väistämätön tieto siitä, että on tarpeeton. Tämä voi olla liian raskasta älyllisille, joille subjektiviteetti ja yksilöllinen tekijyys ovat tärkeä osa ammatillista identiteettiä.

Palataan entisen hallituksen tiedotuspäällikön tapaukseen. Prof. Mróz-Gorgoń ei vain rikkonut tiettyjä sääntöjä arvostuksen pelissä. Vaikka hän itse toimi koulutetun asiantuntijan roolissa, hänen esimerkkinsä osoittaa, että tällaisen asiantuntijan älyllinen työ ei välttämättä tarvitse ja sitä voidaan delegoida suhteellisen halpaan ja helposti käytettävään laitteeseen.

Liiallinen reaktio Prof. Mróz-Gorgońin nöyryytykseen saattaa ehkä ilmentää pelkoa tulevaisuudesta, jossa yksilöllinen tekijyys ja tutkijan subjektiivisuus muuttuvat vanhentuneiksi. Tulevaisuus, jossa löydöt eivät enää ole vain tutkijoiden omaisuutta, vaan myös yritysten ja AI-mallien omaa. Tulevaisuus, jossa akateemiset urat (jos sellaisia vielä on) eivät perustu enää nykyisiin sääntöihin. Tulevaisuus, jossa ajattelu, tieto ja älylliset kyvyt eivät enää ole tärkeämpiä yhteiskunnallisen aseman mittareita.

Me kaikki olemme Platon

Jotta voisimme paremmin ymmärtää, missä tutkijat tällä hetkellä ovat (Puolassa ja maailmalla), on hyvä viitata kulttuurihistorian avainkohtaan, eli siirtymiseen suullisesta kirjoitettuun. Kirjoituksen keksiminen ja levittäminen oli teknologinen vallankumous, joka muutti monia yhteiskunnan osa-alueita, kaupasta tieteeseen ja politiikkaan. Kaikki eivät kuitenkaan olleet innostuneita tästä uudesta teknologiasta. Yksi sen kiivaimmista kriitikoista oli Platon, joka katsoi, että kirjoitus heikentää muistia ja altistaa filosofit väärinymmärryksille (puhuja voi puolustaa sanomaansa; kirjoitus, kun se pääsee julkisuuteen, elää omaa elämäänsä, ulkopuolisena tekijän kontrollista). Platoniin suhtautuminen voi nähdä enemmän kuin pelkkänä teknofobiana: se on elitistinen asenne, joka näkee, että nykyisten hierarkioiden periaatteet muuttuvat raivokkaasti, ja hänen pätevyytensä ei enää ole yhtä arvostettua kuin ennen.

Pelko, joka oli läsnä joidenkin voimakkaiden reaktioiden taustalla Prof. Mróz-Gorgońia kohtaan, on sama tunne kuin Platonia muistuttavassa asenteessa. Toki on paljon AI:n kannattajia tieteessä, en kiistä sitä. Kuitenkin akateemisessa maailmassa on myös monia vastustajia, jotka pelkäävät paitsi oman arvostuksensa menettämistä, myös tärkeiden osien identiteettiään.

Toisaalta AI todennäköisesti heikentää joitakin kompetensseja, tekee meistä laiskoja ja saattaa johtaa umpikujaan. Jo nyt on havaittu, että AI:n tuottamat tiedot toimivat kuin ravintona sille, mikä tekee koko järjestelmästä tyhjäkäyntiä. Toisaalta nopea kehitys herättää pelon, joka on kuin varoitus, ja se on sekä pelkoa että yritystä pysäyttää peruuttamattomia (mahdollisesti) muutoksia, jotka kääntävät nykyisen maailman päälaelleen.

**
Michał Wróblewski – sosiologi, filosofi, työskentelee Torunissa UMK:n sosiologian laitoksella, kiinnostunut lääketieteen sosiologiasta ja ympäristösosiologiasta. Tällä hetkellä hän tutkii rokotekriittisyyttä ja ilmansaasteaktivismia. Hän on kirjoittanut muun muassa teokset Kenen pelko? Kenen tiede? Tietorakenteet tieteellis-sosiaalisten kiistojen keskellä (yhdessä A. Nowakin ja K. Abriszewskin kanssa, Poznań 2016), Sosiologia epidemioista. Uudet tartuntataudit yhteiskuntatieteellisestä näkökulmasta (yhdessä Ł. Afeltowiczin kanssa; Toruń 2021).

Artikkeli Tekoäly ja akateemiset pelot julkaistiin ensimmäisenä sivustolla Krytyka Polityczna.