Изкуственият интелект и страхове на академията

В началото на септември по време на презентацията на новия модел GPT-6 Astra компанията OpenAI обяви създаването на така наречената обща изкуствена интелигенция. Това трябва да бъде такова ниво на развитие на тази технология, което да приближи езиковите модели до умствените възможности на самия човек.

Въпреки че това заявление срещна и скептицизъм от страна на експертите в областта на ИИ, последвалите събития засилиха емоциите около потенциалните възможности на изкуствения интелект. Първо OpenAI обяви, че техният езиков модел е решил един от „милеен проблеми“ (т.е. математически задачи от фундаментално значение за науката). След това в социалните мрежи се появи нова информация: математици, които бяха близо до решението на същия проблем, и също използваха модели GPT, изразиха опасения, че обявеният от OpenAI пробив е постигнат благодарение на тяхната работа.

Добавяме още, че от известно време все по-често се появяват в медиите изявления на бивши служители на компанията, че създаваните от OpenAI модели са опасни и в бъдеще, като напълно автономни и безконтролни системи, могат да застрашат човечеството.

За опасностите, свързани с развитието на изкуствения интелект, вече е написано наистина много. Напредъкът в тази област е свързан с сериозен екологичен отпечатък, тъй като центровете за данни, необходими за трениране на езиковите модели, изискват огромни количества енергия и вода. Остават без отговор въпросите за личната неприкосновеност, тъй като потребителите качват в езиковите модели каквото си поискат – от семейни снимки до резултати от медицински изследвания – и всичко това става част от мощна магма от данни, които използват големите технологични компании.

Понякога се задават по-малко или по-сериозни въпроси за сигурността и бъдещето – как да се внедрят системи за контрол, ако така мощна технология се развива от частни корпорации, които не са подчинени на никого?

Като социолог не мога да оценя тези заплахи. Нямам представа дали след 10 години няма да се събудим в свят, подобен на Терминатор. Нямам компетенции да преценя дали предупрежденията, че неконтролираното развитие на ИИ ще доведе до превземане на властта над света от езиковите модели, са основани на реални процеси или просто израз на технофобия, характерна за времена на научно-технически пробиви. Мога обаче да попитам за характера на тези страхове, тъй като те ни казват нещо много интересно за социалните емоции, които предизвиква технологичният напредък.

ИИ и академията

Това е толкова интересно, че само преди няколко седмици имахме собствена, полска спор около ИИ – именно въпроса (не)славния доклад Поляците – собствен портрет и проф. Барбара Мръз-Горгон. Удивителна е мащабността на реакциите и температурата на емоциите, които съпътстваха това събитие. Освен обичайното интернет линчуване (пиша „обичайното“, тъй като в епохата на поляризираните социални медии такива силни реакции не са нещо ново), много критични гласове срещу бившата пълномощничка на правителството по въпросите на промотирането на марката Полша дойдоха от академични среди. Представителят на Конференцията на ректорите на академичните училища в Полша (организация, обединяваща ръководителите на полските университети) поиска от проф. Мръз-Горгон извинения и счита за неподходящо нейните думи, че „всеки втори професор в света използва“ изкуствен интелект. В социалните мрежи чета много критични мнения от представители на академичната общност, които дори говорят за компрометиране на българската наука.

Защо такава силна критика? За да отговорим на този въпрос, трябва да осъзнаем какво всъщност е изкуственият интелект от гледна точка на науката като област за създаване на знания – и от гледна точка на учените като хора, специализирани в създаването на тези знания.

ИИ и академията

Ентусиастите ще отговорят, че това е инструмент, улесняващ работата. Тук трябва да призная, че използвам модели за език – главно за преглед на литературата, което е трудоемък, но необходим процес, ако искаш да публикуваш в престижни англоезични научни списания. Езиковите модели значително ускоряват този процес, платените им версии вече рядко халюцинират и могат да подберат научни статии по интересуващата ме тема, а аз не трябва да чета десетки текстове, за да намеря няколко, които пасват точно на това, с което се занимавам. Изкуственият интелект ми позволява също така да превеждам на английски това, което съм написал, което е важна полза за човек, който като представител на полупериферна наука трябва да се конкурира с англоезични учени от централните страни.

Има и други неособено противоречиви приложения на ИИ в науката, като автоматизация на събирането на данни (например от уебсайтове, когато някой анализира дискурси) или предварителен или задълбочен анализ на данните (например чрез създаване на предварителни ключове за категоризация и кодиране на качествени данни). От езиковите модели се възползват също така всички, които подават заявки за грантове – ИИ отлично се справя като асистент, който подсказва как да се напише такъв проект, за да се увеличат шансовете за успех.

Критиците на ИИ подчертават, че злоупотребата с езиковите модели води до значителна инфлация на научната продукция. Според един анализ учените, които използват инструменти за ИИ, публикуват средно три пъти повече научни текстове и могат да разчитат на почти четири пъти повече цитирания. Друг показва значителен ръст в броя на подаваните заявки за грантове в престижната програма Marie Sklodowska-Curie Actions през 2022–2025 г. Това всичко води до факта, че въпреки че на учените им е по-лесно да напишат текст или проект, увеличаващата се конкуренция прави все по-трудно публикуването и получаването на грантове.

Най-добрите научни списания и най-престижните грантови агенции са буквално залети от добре написани заявки. Тази увеличена предлагане на научни знания не е съпроводена с увеличено търсене. Най-добрите списания публикуват същия брой статии, а агенциите разполагат със същите бюджети, поради което коефициентът на успех (отношението на приетите статии или заявки към отхвърлените) систематично намалява.

Проблемът с рецензиите

Към това се добавя въпросът за рецензиите, ключова дейност в публикуването на изследвания. Добрата работа трябва да премине проверка и да бъде проверена от други специалисти в съответната област, за да може да бъде представена на по-широка аудитория в научна статия. Double-blind peer review, тоест анонимните рецензии, извършвани от други учени, е стандарт в повечето области на науката. Инфлацията на научните публикации обаче води до това, че все по-трудно е за учените да намерят време за внимателно прочитане на научна статия, за да я оценят обективно и да напишат рецензия (стъпка по стъпка, с обосновка за оценката).

Междувременно има доказателства, че езиковите модели често се използват не само за писане на научни текстове, но и за тяхната оценка. Така се стига до ситуация, при която изкуственият интелект пише за учените статии, а след това ги и оценява.

Престижът в науката

Всички тези негативни явления със сигурност са имали предвид онези, които се присъединиха към почти единодушния хор на критиците на проф. Мръз-Горгон. Не искам в този момент да оспорвам техните добри намерения. ИИ наистина може да бъде голяма заплаха за науката, а инструментите му трябва да се използват изключително внимателно. Самата критика, която се стовари върху съавторката на доклада, е до голяма степен оправдана. Въпреки това, радикалността на тази реакция е удивителна и може би крие някакъв несъзнателен страх – не толкова от директните последици от технологичния напредък за конкретната дейност, колкото от загубата на статус.

Моята хипотеза е следната: емоциите, свързани със случая с доклада на бившата говорителка на правителството за промоция на Полша в света, са израз на страх от радикална промяна в правилата на академичната игра, основана на индивидуалния престиж.

От гледна точка на външен наблюдател учените правят това, което правят, за да живеем по-добре всички ние. Научната знания служат на интересите на всички хора (например да живеем по-дълго, по-здрави и по-удобно). В класическата визия на социолога Робърт К. Мертън елементите на академичния етид са между другото колективизм и безкористност, тоест убеждението, че знанието е общо наследство на цялото човечество и научната дейност трябва да бъде движена от стремеж към истината, а не от реализиране на частни интереси. Това обаче е до голяма степен идеализиран образ, както много критици на Мертън посочваха.

Разбира се, не отричам, че учените провеждат изследвания за доброто на човечеството. По-скоро искам да подчертая, че за тях важна мотивация остава и личният престиж. Той може би е най-важната валута в света на науката. Както твърдеше друг, по-практичен социолог, Пиер Бурдийо, в науката, както и в други области на социалната активност, става дума за власт. Властта в науката зависи от количеството престиж, който включва между другото публикации в престижни списания, проекти, финансирани от реномирани грантови агенции, и броя цитирания.

Този натрупан престиж учените могат по-късно да обменят за други ресурси (например учен с висок престиж може да печели повече) или да играят с капитала си, за да постигат успехи и извън академичната сфера (например учен с висок престиж може да стане известен медийно авторитет или да се включи в политика). В същото време натрупването на валута като престиж може да бъде изключително трудно и да изисква много жертви, включително лични. От друга страна, признатите учени, тоест тези, които вече са натрупали много престиж, имат по-лесно и по-бързо постигат житейските си цели.

За такъв престиж е изключително важно да се свърже определено научно постижение с конкретна личност. Престижът винаги може да се играе от определен учен в научното поле. Престижът е чужд, иначе като валута няма смисъл. Затова учените придават такова голямо значение на приписването на постижението към дадено име – историята познава много спорове за първенство по отношение на публикации, открития или патенти. Друг добър пример за този механизъм са дискусиите за реда на авторите в научните публикации – човекът на първо място винаги има най-много престиж, вторият малко по-малко и така нататък. Бил съм свидетел на поне няколко горещи дискусии за това чие име трябва да бъде на първо място.

Добър пример е и вече споменатият спор за първенството при решаването на милиен проблем. Може да се зададе въпрос – на кого всъщност му пука кой е направил този пробив първи, след като в крайна сметка важи натрупването на знания? В науката, за съжаление, не става само за това. Учениците до голяма степен се движат от желанието да направят нещо значимо, което да ги запише в историята. Можем да го оценяваме по различен начин, но така често изглежда.

Промяна в правилата за престиж

А всъщност изглеждаше така, защото внедряването на езикови модели в науката в широк мащаб преоткрива правилата на академичната игра. ИИ позволява много по-бързо натрупване на престиж под формата на статии, грантове и цитирания. Както посочих по-горе, вече има значителен скок в броя на текстовете, изпращани към водещи научни списания. Освен това, научният пазар на издания се е адаптирал към тези обстоятелства – все по-популярни стават така наречените „комбайнови“ списания, които публикуват по няколко текста дневно, имат бързи рецензентски процеси и гарантират висока цитируемост. Така издаващите компании като MDPI или Frontiers стават естествена екосистема за наука, подпомагана от ИИ.

Ефективността на подпомагането в научната работа с изкуствен интелект означава, че пътят към статут на признат учен става все по-лесен (отделно от качеството на такава знания, което е тема за съвсем друг разговор). В традиционния модел, поне в повечето случаи, натрупването на престиж беше по-бавно. В ерата на ИИ всичко обаче се ускорява. Учен може сравнително бързо да спечели значителни ресурси от престиж и да ги използва на различни полета, конкурирайки се с тези, които „се издигнаха“ по старите правила.

Колко лесно може да се предположи, такава ситуация неизбежно води до конфликт между тези, които умеят да боравят с езиковите модели, и онези, които изграждат позициите си в света на науката „на кратък път“, и тези, които са платили цената с много усилия и време. Мисля, че с такъв случай сме се сблъсквали при реакцията на българската академична общност към случая с проф. Мръз-Горгон.

Разбира се, самият доклад Поляците – собствен портрет е отличен пример за това как не трябва да се използва ИИ. В същото време това е и предвкусване на това как в бъдеще може да изглежда академичната игра за престиж и как тези, които днес са елитът в академията, може да не успеят да се адаптират към новите правила. Проф. Мръз-Горгон е израз на нещо, което без съмнение предстои – бъдеще, което не само ще донесе сериозна промяна, но и ще обърне наопаки досегашните йерархии.