Штучний інтелект і страхи академії

На початку вересня під час презентації нової моделі GPT-6 Astra компанія OpenAI оголосила про створення так званого загального штучного інтелекту. Це має бути такий рівень розвитку цієї технології, який наблизив би мовні моделі до розумових можливостей самого людства.

Хоча ця заява зустрілася також із скептицизмом з боку експертів у галузі ШІ, подальші події підсилювали емоції навколо потенційних можливостей штучного інтелекту. Спочатку OpenAI оголосила, що їхня мовна модель розв’язала один із «міленіальних проблем» (тобто математичних задач із фундаментальним значенням для науки). Потім у соціальних мережах з’явилася новина: математики, які були близькі до розв’язання тієї ж проблеми, і самі також використовували моделі GPT, висловили побоювання, що оголошений OpenAI прорив стався завдяки їхній праці.

Додамо ще, що з певного часу все частіше з’являються у медіа заяви колишніх працівників компанії, що створювані OpenAI моделі є небезпечними і в майбутньому, як повністю автономні та позбавлені контролю людини системи, можуть загрожувати людству.

На тему загроз, пов’язаних із розвитком штучного інтелекту, вже написано справді багато. Прогрес у цій галузі пов’язаний із серйозним екологічним слідом, оскільки центри даних, необхідні для тренування мовних моделей, потребують величезних кількостей енергії та води. Залишаються без відповіді питання приватності, оскільки користувачі завантажують у мовні моделі будь-що — від сімейних фотографій до результатів медичних досліджень — і все це стає частиною потужної маси даних, яку використовують великі технологічні компанії.

Зрештою, виникають часом менш, а часом більш серйозні питання безпеки і майбутнього — як впроваджувати системи контролю, якщо така потужна технологія розвивається приватними корпораціями, які не підпорядковані ніякому контролю?

Як соціолог, я не можу оцінити ці загрози. Не маю уявлення, чи через 10 років ми не прокинемося у світі, схожому на Термінатора. Не маю компетенцій, щоб оцінити, чи застереження про те, що неконтрольований розвиток ШІ призведе до захоплення влади над світом мовними моделями, мають підґрунтя у реальних процесах, чи це просто прояв технофобії, характерної для періодів науково-технічних проривів. Можу однак запитати про характер цих страхів, оскільки вони багато що розповідають про соціальні емоції, які викликає технологічний розвиток.

ШІ та академія

Це цікаве питання тим, що всього кілька тижнів тому у нас була власна, польська контроверсія навколо ШІ — зокрема, справа (не)славного звіту Польський портрет і проф. Барбари Мрóз-Горгон. Вражає масштаб реакції і температуру емоцій, які їй супроводжували. Окрім звичайного інтернет-лінчу (пишу «звичайного», оскільки у часи поляризованих соцмереж такі сильні реакції не є чимось новим), багато критичних голосів щодо колишньої уповноваженої уряду з питань просування бренду Польщі лунало з академічних кол. Речник Конференції ректорів академічних шкіл Польщі (організації, що об’єднує керівників польських вищих навчальних закладів) вимагав від проф. Мрóз-Горгон вибачень і вважав недоречним її слова, що «кожен другий професор у світі використовує» штучний інтелект. На форумах соцмереж я читав багато критичних голосів від представників академії, які навіть говорили про компрометацію польської науки.

Звідки така сильна критика? Щоб відповісти на це питання, потрібно усвідомити, що таке насправді штучний інтелект з точки зору науки як сфери виробництва знань — і з точки зору вчених як людей, що спеціалізуються на створенні цієї знань.

Прихильники скажуть, що це інструмент, що полегшує роботу. Тут я сам маю визнати, що користуюся мовними моделями — переважно для огляду літератури, що є виснажливим, але необхідним процесом, якщо хочеш публікувати у престижних англомовних наукових журналах. Мовні моделі значно прискорюють цей процес, їх платні версії майже вже рідко «галюцинують» і здатні підбирати наукові статті за цікавим мені темам, і мені не потрібно читати десятки текстів, щоб знайти кілька тих, що підходять до моєї роботи. Штучний інтелект також дозволяє мені перекладати англійською те, що я написав, що є важливою перевагою для тих, хто як представник напівпериферійної науки мусить конкурувати з англомовними вченими з країн центру.

Є й інші менш, а іноді й більш спірні застосування ШІ у науці, наприклад автоматизація збору даних (зокрема, з веб-сторінок, коли хтось займається аналізом дискурсу) або попередній чи поглиблений їхній аналіз (наприклад, створення попередніх класифікаційних ключів і кодування якісних даних). З мовних моделей користуються також ті, хто подає грантові заявки — ШІ чудово працює як асистент, що підкаже, як написати таку заявку, щоб збільшити шанси на успіх.

Критики ШІ наголошують, що зловживання мовними моделями веде до значної інфляції наукової продукції. За однією з аналізів, науковець, що користується інструментами ШІ, публікує в середньому утричі більше наукових текстів і може розраховувати майже на чотири рази більше цитувань. Інший аналіз показує значне зростання кількості поданих грантових заявок у престижній програмі Marie Sklodowska-Curie Actions у 2022–2025 роках. Це все сприяє тому, що хоча вченим легше писати текст або грантову заявку, зростаюча конкуренція ускладнює публікацію цих текстів і отримання грантів.

Найкращі наукові журнали та найпрестижніші грантові агентства буквально затоплює добре написаними заявками. Ця збільшена пропозиція наукових знань не супроводжується зростанням попиту. Найкращі журнали публікують ту саму кількість статей, а агентства мають ті самі бюджети, тому коефіцієнт успіху (відношення прийнятих статей або грантових заявок до відхилених) систематично зменшується.

До того ж, виникає питання рецензування, ключової активності у публікації досліджень. Хороші дослідження мають пройти перевірку і бути перевіреними іншими фахівцями у цій галузі, щоб їх можна було представити ширшій аудиторії у науковій статті. Double-blind peer review, тобто анонімне рецензування іншими вченими, — стандарт у більшості галузей науки. Інфляція публікацій призводить до того, що все важче вченим знайти час на уважне прочитання статті, її об’єктивну оцінку і написання рецензії (крок за кроком обґрунтування цієї оцінки).

Між тим, є докази, що мовні моделі часто використовуються не лише для написання наукових текстів, а й для їхньої оцінки. Тобто маємо ситуацію, коли штучний інтелект пише за вчених статті, а потім виконує їхню оцінку.

Престиж у науці

Усі ці негативні явища безперечно мали на увазі ті, хто приєднався до майже одностайного хору критиків проф. Мрóз-Горгон. Не хочу тут ставити під сумнів їхні добрі наміри. ШІ справді може бути великою загрозою для науки, і з її інструментами потрібно працювати дуже обережно. Самі критики, що обрушилися на співавтора звіту, здебільшого обґрунтовані. Однак радикальність цієї реакції дивує і, можливо, приховує певний несвідомий страх — не стільки перед безпосередніми наслідками технологічного розвитку для конкретної діяльності, скільки перед втратою статусу.

Моя гіпотеза така: емоції, пов’язані із справою звіту колишньої речниці уряду з питань просування Польщі у світі, є проявом страху перед радикальною зміною правил гри академічної сфери, заснованої на індивідуальному престижі.

З точки зору сторонньої особи, вчені роблять те, що роблять, щоб усім нам жилося краще. Наукові знання мають служити інтересам усіх людей (наприклад, щоб ми жили довше, здоровіше і зручніше). У класичному розумінні соціолога Роберта К. Мертонa елементами академічного етичного кодексу є, зокрема, комуналізм і безкорисливість, тобто переконання, що знання — спільна спадщина всього людства, а наукова діяльність має бути спрямована на пошук істини, а не на реалізацію вузьких інтересів. Це, однак, досить ідеалізований образ, на що вказували багато критиків Мертона.

Звісно, я не заперечую, що вчені досліджують для добра людства. Мова йде радше про те, що для них дуже важливою мотивацією залишається й індивідуальний престиж. Він, можливо, є найважливішою валютою у світі науки. Як казав інший, більш приземлений соціолог, П’єр Бурдьє, у науці, так само як і в інших сферах соціальної активності, йдеться про владу. Влада у науці залежить від кількості престижу, до якого належать, зокрема, публікації у престижних журналах, проекти, фінансовані відомими грантовими агентствами, або кількість цитувань.

Зібраний таким чином престиж науковці згодом можуть обмінювати на інші ресурси (наприклад, високий престиж може принести більше заробітку) або використовувати його для досягнення успіху й у позанаукових сферах (наприклад, високий престиж може зробити вченого відомим медіа-авторитетом або залучити до політики). Водночас накопичення валюти, якою є престиж, може бути надзвичайно важким і вимагати багато жертв, зокрема особистих. З іншого боку, визнані вчені, які вже здобули багато престижу, мають потім легший шлях і швидше досягають життєвих цілей.

Для такого розуміння престижу дуже важливо приписати конкретному науковцю певне досягнення. Престиж може грати у науці завжди певний дослідник. Престиж — це чиясь, інакше як валюта він не має сенсу. Тому вчені так приділяють увагу приписуванню досягнення конкретному прізвищу — історія знає чимало суперечок щодо першості у публікаціях, відкриттях чи патентах. Іншим прикладом цього механізму є дискусії щодо порядку авторів у наукових публікаціях — особа на першому місці завжди має найбільше цього престижу, другий — трохи менше і так далі. Я сам був свідком щонайменше кількох гарячих дискусій щодо того, чиє прізвище має бути першим.

Добрим прикладом є також уже згаданий конфлікт щодо першості у розв’язанні міленіальної проблеми. Можна запитати — кому взагалі важливо, хто зробив цей прорив першим, якщо зрештою важливий приріст знань? У науці, на жаль, не лише про це. Науковців здебільшого рухає бажання зробити щось значуще, що запише їхнє ім’я у аннали історії. Можливо, це оцінювати по-різному, але так часто воно і є.

Зміна правил гри щодо престижу

Але насправді так було, бо впровадження мовних моделей у науку у широкому масштабі переосмислює правила академічної гри. ШІ дозволяє набагато швидше здобувати престиж у вигляді статей, грантів чи цитувань. Як я вже зазначав вище, вже зараз відбувається стрімке зростання кількості текстів, поданих до топових наукових журналів. До речі, науковий видавничий ринок добре пристосувався до цих обставин — все більшою популярністю користуються так звані «комбайнові» журнали, що публікують кілька десятків текстів щодня, мають швидкі шляхи рецензування і гарантують високу цитованість. Такі видавництва, як MDPI чи Frontiers, стають природною екосистемою для науки, підтриманої ШІ.

Ефективність підтримки у науковій роботі штучним інтелектом робить шлях до статусу визнаного вченого все легшим (я тут ігнорую якість такої знань — це тема для зовсім іншої дискусії). У традиційній моделі, принаймні у більшості випадків, здобуття престижу було доволі повільним. У епосі ШІ все ж прискорюється. Вчений може досить швидко здобути відносно великі ресурси престижу і використовувати їх у різних сферах, конкуруючи з тими, хто «заробив» його ще за старими правилами.

Як легко здогадатися, така ситуація неминуче веде до конфлікту між тими, хто вміє користуватися мовними моделями і тим самим будує свою позицію у світі науки «на швидку руку», і тими, хто за це заплатив багато зусиль і часу. Мені здається, що з цим ми мали справу у реакції польського академічного середовища на справу проф. Мрóз-Горгон.

Звісно, сам звіт Польський портрет — це чудовий приклад того, як не слід користуватися ШІ. Водночас це передвістя того, яким у майбутньому може виглядати академічна гра за престиж і як ті, хто сьогодні становлять академічну еліту, можуть не бути здатними пристосуватися до нових правил. Проф. Мрóз-Горгон з цієї перспективи є проявом чогось, що неминуче настає — майбутнього, яке постає не лише як серйозна зміна, а й як щось, що перевертає навиворіт існуючі ієрархії.

Знову ж, штучний інтелект і відчуття відчуження

ШІ також ускладнює відповідь на питання «хто є автором досліджень/патенту/відкриття/статті», що уражає ключовий — як я писав вище — вимір академічного престижу, а саме авторство. У традиційній моделі ситуація була досить ясною — легко було приписати відкриття конкретній особі. І хоча, як показував ще геніальний Людвіг Флек ще майже сто років тому, групи і колективи є реальними творцями наукових відкриттів, відповідно до правил академічного поля, висловлювання «це я є автором цього відкриття» є ключовим кроком у грі за престиж.

Візьмімо ще раз приклад розв’язання міленіальної проблеми. Двоє математиків, які припустили, що OpenAI могло «красти» їхній прорив, у своїй роботі базувалися на мовних моделях. Ці моделі належали OpenAI, тож, можливо, вчені самі сприяли своїй поразці.

Хто є автором прориву? Ці математики, які, ймовірно, самі не змогли б цього зробити, тому що користувалися ШІ? Чи власники OpenAI, які, можливо, використали промпти, підготовлені цими математиками, щоб покращити свої моделі? Або сама штучна інтелекту? Адже ШІ базується на даних, які раніше створили люди, на всьому попередньому здобутку науки, а промпти також формулює людина. Але ж ШІ базується на знаннях, які були завантажені до мовної моделі людиною, тому зрештою хтось живий є автором ідей, що підказує нам LLM. Проте тут приховується проблема, пов’язана з багатогранністю посилань, які генерує ШІ, і швидкістю їх засвоєння. У традиційній науковій роботі засвоєння і використання чужих ідей вимагає часу і певною мірою трансформує того, хто користується чужими науковими здобутками. Щоб процитувати якийсь текст, потрібно його спершу прочитати, зрозуміти і надихнутися ним, а потім творчо використати, що цілком змінює спосіб моїх думок. Якщо ж користуємося штучним інтелектом, цей процес значно прискорюється, а механізм засвоєння (коли я засвою чужу ідею, щоб на її основі сказати щось своє) фактично не відбувається. Тобто часу, щоб чужі ідеї стали моїми власними, немає.

На мою думку, це породжує відчуття відчуження від продукту власної інтелектуальної праці. Якщо я пишу статтю, а ШІ робить у ній правки або пропонує розвинення, яких я сам би не додумав, то хто в результаті є автором цієї статті? Якщо ШІ починає жонглювати концепціями і теоріями, яких я не знав і засвоїв лише з резюме, то чи користуюся я ними свідомо (тобто відповідно до власних авторських намірів), чи швидше дозволяю їм вести мене за шнурком у своїх думках? Як я вже зазначав раніше, ідеї, що циркулюють у LLM, мають, ймовірно, своїх авторів і авторок. Однак досвід користування ШІ у науковій роботі може спричинити незручне для вчених відчуття відсутності суб’єктності.

У часи до ШІ я, як науковець, думав, відкривав, презентував і дисконтрував здобутий у кар’єрі престиж. У часи ШІ це вже не так очевидно. Це, у свою чергу, може спричинити екзистенційні питання. Якщо вже не лише я думаю, не лише я є автором, то чи не стає світ для вченого непотрібним? Можливо, розвиток ШІ у майбутньому — коли можливості мовних моделей будуть значно більшими, ніж зараз — викличе непереборне усвідомлення зайвості. Це може бути не під силу інтелектуалам, для яких суб’єктність, а отже й індивідуальне авторство як необхідний елемент престижу, є важливою складовою їхньої професійної ідентичності.

Повернемося до справи колишньої речниці уряду. Проф. Мрóз-Горгон не лише порушила певні правила гри щодо престижу. Хоча сама виконувала роль натренованого експерта, її приклад показує можливість того, що інтелектуальна праця такого фахівця не потрібна і може бути делегована відносно дешевому і легкому у використанні пристрою.

Завищена реакція на компрометацію проф. Мрóз-Горгон, можливо, виражає страх перед майбутнім, у якому індивідуальне авторство і суб’єктність вченого стануть пережитками. Майбутнім, у якому відкриття будуть приписуватися не лише вченим, а й корпораціям і моделям ШІ. Майбутнім, у якому наукові кар’єри (якщо вони взагалі будуть) не будуватимуться за старими правилами. У якому мислення, знання, інтелектуальні компетенції перестануть бути важливими ознаками соціального статусу.

Ми всі — Платони

Щоб краще пояснити, у якому місці зараз знаходяться вчені (у Польщі та у світі), варто звернутися до ключового для історії культури переходу від усної до писемної культури. Винайдення і поширення писемності було технологічною революцією, що змінила багато аспектів суспільного життя — від торгівлі, через науку, до політики. Не всі, однак, були ентузіастами цієї новинки. Серед її ярих критиків був, зокрема, Платон, який вважав, що писемність руйнує пам’ять і піддає філософів ризику нерозуміння (мовляв, говорячий може захистити те, що говорить; писемність, один раз поширена, живе своїм життям поза контролем творця). Позицію Платона можна трактувати як щось більше, ніж просту технофобію: це позиція представника еліти, який бачить, що правила функціонування існуючих ієрархій руйнуються, а його компетенції вже не цінуються так, як раніше.

Страх, яким просякнуті деякі різкі реакції на справу проф. Мрóз-Горгон, — це емоція, що супроводжує подібну до Платона позицію. Звісно, у світі академічних колів є багато прихильників ШІ, і я цьому не заперечую. Водночас у науковому середовищі є й багато її опонентів, які окрім справедливих зауважень бояться втрати як власного престижу, так і важливих елементів своєї ідентичності.

З одного боку, ШІ, ймовірно, руйнує деякі компетенції, робить нас лінивими, можливо, веде до сліпої вулиці. А вже зараз відзначають, що кормом для ШІ стають інформації, згенеровані ним самим, через що вся ця система починає працювати на холостих обертах. З іншого — стрімкий розвиток викликає страх, що єдність і стабільність у науці руйнуються, а зміни, що їх він спричиняє, — незворотні і можуть перевернути світ навиворіт.

**
Михайло Врублевський — соціолог, філософ, працює в Інституті соціології УМК у Торуні, цікавиться соціологією медицини та соціологією довкілля. Нині проводить дослідження щодо скептицизму щодо вакцин і активізму, пов’язаного з якістю повітря. Автор, зокрема, Чиї страхи? Чия наука? Структури знань щодо науково-суспільних суперечок (разом з А. Новаком і К. Абрижецьким, Познань 2016), Соціологія епідемій. Виникаючі інфекційні хвороби у перспективі соціальних наук (разом із Л. Афельовичем; Торунь 2021).

Пост Штучний інтелект і страхи академії вперше з’явився на Критика Політична.