Искусственный интеллект и страхи академии

В начале сентября во время презентации новой модели GPT-6 Astra компания OpenAI объявила о создании так называемого общего искусственного интеллекта. Это должен быть такой уровень развития этой технологии, который приблизил бы языковые модели к умственным возможностям самого человека.

Хотя это заявление вызвало также скепсис со стороны экспертов в области ИИ, дальнейшие события усилили эмоции вокруг потенциальных возможностей искусственного интеллекта. Сначала OpenAI объявила, что их языковая модель решила одну из «мильенских проблем» (то есть математическую задачу, имеющую фундаментальное значение для науки). Затем в социальных сетях появилась новая информация: математики, которые были близки к решению той же задачи и при этом также использовали модели GPT, выразили опасение, что объявленный OpenAI прорыв был достигнут благодаря их работе.

Добавим еще, что с недавних пор все чаще в СМИ появляются заявления бывших сотрудников компании о том, что создаваемые OpenAI модели опасны и в будущем, как полностью автономные и лишенные контроля человека системы, могут угрожать человечеству.

О темах угроз, связанных с развитием искусственного интеллекта, уже написано действительно много. Прогресс в этой области связан с серьезным экологическим следом, поскольку центры данных, необходимые для обучения языковых моделей, требуют огромных количеств энергии и воды. Остаются без ответа вопросы о приватности, поскольку пользователи загружают в языковые модели что угодно — от семейных фотографий до результатов медицинских исследований — и все это становится частью мощной массы данных, которую используют крупные технологические компании.

Периодически возникают более или менее серьезные вопросы о безопасности и будущем — как внедрять системы контроля, если такая мощная технология разрабатывается частными корпорациями, не подчиняющимися ничьему контролю?

Как социолог, я не могу оценить эти угрозы. У меня нет представления, не проснемся ли мы через 10 лет в мире, похожем на Терминатора. У меня нет компетенций, чтобы судить, основаны ли предупреждения о том, что неконтролируемое развитие ИИ приведет к захвату власти над миром языковыми моделями, на реальных процессах или это просто выражение технофобии, характерной для эпохи научно-технических переломов. Однако я могу спросить о характере этих страхов, ведь они рассказывают нам очень интересное о социальных эмоциях, которые вызывает технологический прогресс.

ИИ и академия

Это настолько интересный вопрос, что всего несколько недель назад у нас была собственная польская спор вокруг ИИ — а именно дело (не)славного отчета Польский портрет и проф. Барбары Мроз-Горгон. Удивляет масштаб реакции и температура эмоций, которые ей сопутствовали. Помимо обычного интернет-травли (я пишу «обычного», потому что в эпоху поляризованных социальных медиа такие сильные реакции не новость), много критических голосов в адрес бывшей полномоченной правительства по продвижению бренда Польши поступило из академического сообщества. Представитель Конференции ректоров польских академических школ (организации, объединяющей руководителей польских вузов) потребовал от проф. Мроз-Горгон извинений и признал неуместным ее слова о том, что «каждый второй профессор в мире использует» искусственный интеллект. На форумах и в соцсетях я слышал много критических мнений со стороны академиков, даже о компрометации польской науки.

Откуда такая сильная критика? Чтобы ответить на этот вопрос, нужно понять, что на самом деле такое искусственный интеллект с точки зрения науки как области производства знаний — и с точки зрения ученых как людей, специализирующихся на создании этих знаний.

ИИ и академия

Энтузиасты ответят, что это инструмент, облегчающий работу. В этом месте я сам должен признать, что использую языковые модели — в основном для обзора литературы, что является утомительным, но необходимым процессом, если хочешь публиковаться в престижных англоязычных научных журналах. Языковые модели значительно ускоряют этот процесс, их платные версии практически уже редко «галлюцинируют» и умеют подбирать научные статьи по интересующей меня теме, а мне не нужно читать десятки текстов, чтобы найти несколько подходящих. Искусственный интеллект также позволяет мне переводить на английский то, что я написал, что важно для тех, кто, как представитель полупериферийных наук, должен конкурировать с англоязычными учеными из центровых стран.

Есть и другие менее спорные применения ИИ в науке, такие как автоматизация сбора данных (например, с сайтов, когда кто-то занимается дискурсивным анализом) или их предварительный или углубленный анализ (например, создание предварительных категориальных ключей и кодирование качественных данных). Также языковые модели используют все, кто подает грантовые заявки — ИИ отлично подходит в качестве помощника, который подскажет, как написать такую заявку, чтобы повысить шансы на успех.

Критики ИИ подчеркивают, что чрезмерное использование языковых моделей ведет к значительной инфляции научной продукции. Согласно одному из анализов, ученый, использующий инструменты ИИ, публикует в среднем в три раза больше научных текстов и может рассчитывать почти на в четыре раза больше цитирований. Другой анализ показывает значительный рост количества заявок на гранты в престижной программе Marie Sklodowska-Curie Actions в 2022–2025 годах. Все это приводит к тому, что хотя ученым легче писать статьи или заявки, растущая конкуренция усложняет публикацию этих работ и получение грантов.

Лучшие научные журналы и самые престижные грантовые агентства буквально завалены хорошо подготовленными заявками. Этот рост научных знаний не сопровождается увеличением спроса. Лучшие журналы публикуют столько же статей, а агентства имеют такие же бюджеты, из-за чего коэффициент успеха (отношение принятых статей или заявок к отклоненным) систематически снижается.

Проблема рецензирования

Ключевая деятельность в области публикации исследований — это рецензирование. Хорошие исследования должны пройти проверку и быть проверены другими специалистами в данной области, чтобы их можно было представить широкой аудитории в научной статье. Double-blind peer review, то есть анонимное рецензирование другими учеными, — стандарт во многих областях науки. Однако инфляция публикаций ведет к тому, что ученым все труднее найти время для внимательного прочтения статьи, ее объективной оценки и написания рецензии (подробно обоснованной).

Тем не менее есть доказательства, что языковые модели часто используют не только для написания научных текстов, но и для их оценки. Таким образом, мы имеем ситуацию, когда искусственный интеллект пишет за ученых статьи, а затем помогает им в оценке этих материалов.

Престиж в науке

Все эти негативные явления, безусловно, имели в виду те, кто присоединился к почти единодушному хору критиков проф. Мроз-Горгон. Я не хочу в этом месте оспаривать их добрые намерения. ИИ действительно может быть большой угрозой для науки, и с его инструментами нужно обращаться очень осторожно. Самая критика, обрушившаяся на соавтора отчета, в значительной степени оправдана. Тем не менее, радикальность этой реакции вызывает удивление и, возможно, скрывает неосознанный страх — не столько перед непосредственными последствиями технологического развития для конкретной деятельности, сколько перед утратой статуса.

Моя гипотеза такова: эмоции, связанные с делом бывшей пресс-секретаря правительства по продвижению Польши в мире, — это проявление страха перед радикальной сменой правил игры в академической сфере, основанной на индивидуальном престижи.

С точки зрения стороннего наблюдателя ученые делают то, что делают, чтобы всем нам было лучше. Научные знания служат интересам всех людей (например, чтобы жить дольше, здоровее и комфортнее). В классическом понимании социолога Роберта К. Мертон элементами академического этика являются, среди прочего, коммунализм и бескорыстие, то есть убеждение, что знания — это общее наследие всего человечества, а деятельность ученых должна быть движима стремлением к истине, а не частными интересами. Однако это в значительной мере идеализированный образ, на что указывали многие критики Мертона.

Я, конечно, не отрицаю, что ученые проводят исследования ради блага человечества. Скорее, я говорю о том, что для них очень важна также индивидуальная репутация. Она, возможно, является самой важной валютой в мире науки. Как говорил другой, более приземленный социолог, Пьер Бурдье, в науке, как и в других сферах общественной деятельности, речь идет о власти. Власть в науке зависит, в частности, от количества престижных публикаций, проектов, финансируемых престижными грантовыми агентствами, и числа цитирований.

Так собранный престиж ученые могут затем обменивать на другие ресурсы (например, ученый с высоким престижем может зарабатывать больше) или использовать свой капитал для достижения успеха в неакадемических сферах (например, ученый с высоким престижем может стать известным медийным авторитетом или вовлечься в политику). В то же время накопление такой валюты, как престиж, может быть очень трудным и требовать многих жертв, в том числе личных. С другой стороны, признанные ученые, уже обладающие большим престижем, потом достигают целей быстрее и легче.

Для такого понимания престиж очень важно приписывать конкретное научное достижение конкретному человеку. Престиж всегда может играть в научной сфере определенный ученый. Престиж — это чье-то, иначе в качестве валюты он не имеет смысла. Поэтому ученые придают такое большое значение тому, чтобы достижение было связано с конкретной личностью — история знает много споров о приоритете публикации, открытия или патента. Еще одним примером этого механизма являются дискуссии о порядке авторов в научных публикациях — человек на первом месте всегда имеет больше всего этого престижу, второй — чуть меньше, и так далее. Я лично был свидетелем как минимум нескольких горячих дискуссий о том, чье имя должно быть первым.

Хороший пример — уже упомянутый спор о приоритете решения мильенской задачи. Можно спросить — в принципе, кого волнует, кто сделал этот прорыв первым, если в конечном итоге важен прирост знаний? В науке, к сожалению, дело не только в этом. Ученых в значительной степени движет желание сделать что-то значимое, что запишется в анналы истории. Мы можем по-разному оценивать это, но так часто выглядит ситуация.

Изменение правил игры о престижи

А на самом деле так было, потому что внедрение языковых моделей в науку в широком масштабе переопределяет правила академической игры. ИИ позволяет гораздо быстрее накапливать престиж в виде статей, грантов и цитирований. Как я уже отмечал выше, уже сейчас происходит скачкообразный рост количества статей, отправляемых в ведущие научные журналы. Кстати, научный рынок издательств хорошо адаптировался к этим обстоятельствам — все более популярными становятся так называемые «комбайновые» журналы, публикующие по нескольку статей в день, с быстрыми рецензентскими процедурами и высокой цитируемостью. Так издательства типа MDPI или Frontiers становятся естественной экосистемой для науки, поддерживаемой ИИ.

Эффективность использования искусственного интеллекта в научной работе делает путь к статусу признанного ученого все более легким (я здесь опускаю качество такой знаний, это тема для совершенно другого обсуждения). В традиционной модели, по крайней мере в большинстве случаев, накопление престижу было довольно медленным. В эпоху ИИ все ускоряется. Ученый может довольно быстро получить относительно большие ресурсы престижу и использовать их на разных полях, конкурируя с теми, кто «заработал» его еще по старым правилам.

Как легко догадаться, такая ситуация неизбежно ведет к конфликту между теми, кто умеет пользоваться языковыми моделями, и теми, кто строит свою позицию в мире науки «на скорую руку», и теми, кто за это заплатил много усилий и времени. Думаю, что именно с этим мы столкнулись в реакции польского академического сообщества на дело проф. Мроз-Горгон.

Конечно, сам отчет Польский портрет — отличный пример того, как не стоит пользоваться ИИ. Но одновременно это предвкушение того, как в будущем может выглядеть академическая игра за престиж и как те, кто сегодня составляют академическую элиту, могут оказаться неспособными адаптироваться к новым правилам. Проф. Мроз-Горгон — это, с этой точки зрения, проявление того, что неизбежно наступит — будущего, которое предстает не только как серьезное изменение, но и как что-то, полностью переворачивающее существующие иерархии.

ИИ и ощущение отчуждения

Кроме того, ИИ делает ответ на вопрос «кто является автором исследований/патента/открытия/статьи» чрезвычайно проблематичным, ударяя по ключевому — как я писал выше — измерению академического престижу, а именно авторству. В традиционной модели ситуация была довольно ясной — легко было связать открытия с человеком. И хотя, как показывал, например, гениальный Людвиг Флекк еще почти сто лет назад, группы и коллективы являются реальными создателями научных открытий, то в соответствии с правилами академического поля утверждение «это мое открытие» — важнейший ход в игре за престиж.

Возьмем снова пример решения мильенской задачи. Двое математиков, которые предположили, что OpenAI могло «украсть» их прорыв, в своей работе основывались на языковых моделях. Эти модели принадлежали OpenAI, так что, возможно, ученые сами способствовали своему поражению.

Кто является автором прорыва? Эти математики, которые, вероятно, сами не смогли бы этого сделать, поэтому использовали ИИ? Или владельцы OpenAI, которые, возможно, использовали подсказки, подготовленные этими математиками, чтобы улучшить свои модели? А может, сама искусственная интеллигенция? Но ведь ИИ базируется на данных, созданных ранее людьми, на всем научном наследии, а подсказки тоже формулирует человек.

ИИ, конечно, базируется на знаниях, загруженных в языковую модель человеком, поэтому в конечном итоге автором идей, которые подсказывает нам LLM, является живой человек. Однако здесь скрывается проблема, связанная с множественностью ссылок, которые генерирует ИИ, и скоростью их усвоения. В традиционной научной работе усвоение и использование чужих идей требуют времени и в некотором смысле трансформируют того, кто пользуется чужими научными достижениями. Чтобы процитировать какой-то текст, его нужно сначала прочитать, понять и вдохновиться им, а затем творчески его использовать, что в целом меняет мой способ мышления. Если мы используем искусственный интеллект, этот процесс значительно ускоряется, а механизм усвоения (когда я усваиваю чужие идеи, чтобы на их основе сказать что-то свое) практически не происходит. Следовательно, нет времени, чтобы чужие идеи стали моими собственными.

Это, по моему мнению, порождает ощущение отчуждения от продукта собственной интеллектуальной работы. Если я пишу статью, а ИИ вносит в нее правки или предлагает расширения, о которых я сам бы не догадался, то кто в итоге является автором этой статьи? Если ИИ начинает жонглировать концепциями и теориями, которых я не знал и усвоил только из резюме, то использую ли я их осознанно (то есть в соответствии со своими авторскими намерениями), или же позволяю кому-то другому управлять моим мышлением? Как я уже отмечал, идеи, циркулирующие в LLM, наверняка имеют своих авторов и авторов. Тем не менее, опыт использования ИИ в академической работе может привести к неудобному для ученых ощущению отсутствия субъектности.

В эпоху до ИИ я как ученый думал, открывал, представлял и дисконтировал приобретенный в ходе карьеры престиж. В эпоху ИИ это уже не так очевидно. Это, в свою очередь, может привести к экзистенциальным вопросам. Если уже не только я думаю, не только я автор, то, возможно, ученому перестает быть нужным миру? Возможно, развитие ИИ в будущем — когда возможности языковых моделей станут гораздо больше, чем сейчас — вызовет неотвратимое ощущение ненужности. Это может оказаться непосильно для интеллектуалов, для которых субъектность, а следовательно, и индивидуальное авторство как важнейший элемент престижу, — важная часть их профессиональной идентичности.

Вернемся к делу бывшей пресс-секретаря правительства. Проф. Мроз-Горгон не только нарушила определенные правила игры в отношении престижу. Хотя сама она выступала в роли подготовленного эксперта, ее пример показывает возможность того, что интеллектуальная работа такого специалиста не нужна и может быть делегирована относительно дешевому и простому в использовании устройству.

Чрезмерная реакция на компрометацию проф. Мроз-Горгон, возможно, выражает страх перед будущим, в котором индивидуальное авторство и субъектность ученого станут пережитками. Будущим, в котором открытия будут приписываться не только ученым, но и корпорациям и моделям ИИ. Будущим, в котором научные карьеры (если они вообще будут) не будут строиться по прежним правилам. В котором мышление, знания, интеллектуальные компетенции перестанут быть важным показателем социального статуса.

Все мы — Платоны

Чтобы лучше объяснить, в каком месте сегодня находятся ученые (в Польше и в мире), стоит обратиться к ключевому для истории культуры переходу от устной традиции к письменности. Изобретение и распространение письма было технологической революцией, изменившей многие аспекты общественной жизни — от торговли и науки до политики. Но не все были энтузиастами этой новинки. Среди ярых критиков была, в частности, Платон, который считал, что письмо портит память и подвергает философов риску непонимания (говорящий может защитить то, что он говорит; письмо, однажды попавшее в обращение, живет своей жизнью, вне контроля создателя). Постать Платона можно воспринимать как нечто большее, чем простую технофобию: это позиция элиты, которая видит, что принципы функционирования существующих социальных иерархий разрушаются жестоко, а ее компетенции уже не будут так цениться, как раньше.

Страх, которым пронизаны некоторые резкие реакции на дело проф. Мроз-Горгон, — это эмоция, сопутствующая подобной платоновской позиции. Конечно, в мире есть много энтузиастов ИИ в науке, я не отрицаю этого. Но в академическом мире также много его противников, которые, помимо справедливых претензий, опасаются утраты как собственного престижу, так и важных элементов своей идентичности.

С одной стороны, ИИ, безусловно, портит некоторые компетенции, делает нас ленивее, возможно, ведет к слепой алчности. Уже сейчас отмечают, что кормом для ИИ становятся сведения, сгенерированные им самим, из-за чего вся эта система начинает работать на холостом ходу. С другой стороны, стремительный рост вызывает страх, что это — не только технологический прогресс, но и попытка остановить необратимые (возможно) изменения, которые переворачивают существующий мир с ног на голову.

**
Михал Врублевский — социолог, философ, работает в Институте социологии Университета МК в Торунь, интересуется социологией медицины и социологией окружающей среды. В настоящее время проводит исследования скептицизма по отношению к вакцинации и активизма, связанного с качеством воздуха. Автор, среди прочего, Чьи страхи? Чья наука? Структуры знания в контексте научно-общественных споров (в соавторстве с А. Новаком и К. Абрижевским, Познань 2016), Социология эпидемий. Восходящие инфекционные болезни в перспективе социальных наук (в соавторстве с Л. Афельтовичем; Торунь 2021).

Статья Искусственный интеллект и страхи академии впервые опубликована на Критика Политическая.