Даниэль Иннерарти: «Крайне важно наполнять ИИ большим разнообразием»

Даниэль Иннерарити, один из самых выдающихся испанских мыслителей современности, выдвигает в своей последней книге необходимость «кормить ИИ большим разнообразием», чтобы он не стал инструментом исключения.

Иннерарити (Бильбао, 1959), профессор политической и социальной философии, исследователь Ikerbasque в Университете Страны Басков, излагает эти идеи в Критической теории искусственного интеллекта (Galaxia Gutenberg, 2025).

И вместе с расширением разнообразия источников, питающих эти новые системы, профессор добавляет еще одну идею: необходимость «контролировать человеческое взаимодействие, чтобы гарантировать его совместимость с демократическими ценностями».

В этом интервью он рассказывает о новой книге, удостоенной III премии Эжен Триас. На обложке — чайка на согнутой перильной ограде перед морем, что, вопреки ожиданиям, предлагает другой взгляд на технологическую революцию.

Почему именно эта обложка и эта книга?

Я не хотел обычное изображение в голубых тонах, ассоциирующееся с эфемерным и облаком, потому что я воспринимаю искусственный интеллект более материально, в контрасте с человеческим телом. Фото, немного отретушированное с помощью ИИ, играет с этой идеей: машина интерпретировала бы, что перекладина согнулась под весом чайки, тогда как люди сразу понимают шутку. Это метафора различий между нашей интуицией и обработкой ИИ.

Я написал эту книгу, чтобы было понятно, что на кону. Существует много истерии вокруг технологий, с чрезмерными ожиданиями техносолюшенов. Кремниевая долина хочет, чтобы мы поверили, что технологии, а не демократическое обсуждение, решат большие проблемы. Также есть чрезмерная паника, не соответствующая реальным рискам и нашим возможностям их преодолеть. ИИ не навязывает один путь, он открывает несколько возможностей, как это происходит в текущем историческом, политическом и геостратегическом контексте. Не предписано, что все закончится плохо, и что технологии снизят нашу свободу, они могут иметь освобождающий потенциал.

Является ли ‘техносолюшенизм’ идеологией цифровой эпохи?

Это у некоторых крупных предпринимателей цифрового мира, усиленное впечатляющим технологическим развитием. Каждый день появляются многообещающие или тревожные новости: вчера женщина восстановила речь благодаря ИИ; сегодня переводчики протестуют, чтобы их работы не использовались в этих системах. Эта карусель достижений и конфликтов вызывает недоумение.

Какова роль политического решения в алгоритмической демократии, учитывая, что ИИ влияет как на дискуссию, так и на принятие решений?

Процесс принятия решений в ИИ включает дизайн, данные и взаимодействие с пользователями, и ключевое — когда, как и для чего должны вмешиваться люди. Отсутствие разнообразия у тех, кто разрабатывает эти системы, особенно недостаточное присутствие женщин, может привести к предвзятости. Например, распознавание лиц, которое путало чернокожих женщин с орангутанами из-за предвзятых тренировок с большим количеством изображений белых мужчин. Важно кормить ИИ большим разнообразием, как это делает Испания с ИИ на испанском и официальных языках [ALIA], против англоцентризма, и контролировать человеческое взаимодействие, чтобы обеспечить его совместимость с демократическими ценностями, как делают Algorithm Watch и AESIA (Испанское агентство по надзору за ИИ).

Почему нежелательно, чтобы ИИ был похож на человека? Можем ли мы его контролировать?

В авиации братья Райт показали, что вместо имитации птиц нужно изучать аэродинамику. Так и с ИИ: вместо копирования человеческого интеллекта, нужно использовать его вычислительные возможности и обработку больших объемов данных. Он хорошо работает в контекстах с ясными данными и бинарными решениями, но в сложных или неоднозначных задачах люди остаются незаменимыми.

Мы не нашли подходящую концепцию контроля за ИИ: либо даем слишком много свободы, рискуя ценностями, либо применяем чрезмерный контроль, тормозящий его обучение. Европейский акт об ИИ движется в правильном направлении, но остается слишком общим. Это как в 1868 году, когда в Великобритании требовали, чтобы человек шел впереди автомобиля с красным флагом, чтобы избежать аварий. Ключ — сочетать скорость и безопасность, как современные автомобили или ABS, где технологические улучшения предотвращают риск резкого торможения в панике.

Какое у нас право навязывать европейский регуляторный подход?

Идеально было бы достичь глобального соглашения по этическим, политическим и демократическим стандартам, но у нас разные культуры. Как и при климатических изменениях, мы знаем, что это срочно, но прогресс идет через частичные договоренности. Однако европейские стандарты влияют на других участников. Кроме того, ИИ и экология пересекаются, потому что энергопотребление этой технологии огромно и уже входит в международную климатическую повестку.

Что означает, что регулирование ИИ разрабатывают не носители цифровой культуры, с иными восприятиями рисков и выгод, чем у новых поколений?

Цифровая трансформация — это не только оцифровка администраций, а преобразование общества в целом. И такая масштабная трансформация должна быть демократичной и инклюзивной, открывать дискуссии, позволять критику и учитывать гендерные, экономические, географические и культурные разрывы. Ее нельзя управлять, игнорируя разнообразие: цифровых нативов, пожилых, мигрантов, жителей сельской местности… Это проверка на прочность: создадим ли инклюзивные технологии или позволим им делить и исключать? Нужно избегать превращения цифровизации в инструмент исключения, как это было с экологической трансформацией и протестами желтых жилетов во Франции.

В книге «Эпоха реванша» Андреа Рицци предлагает создать глобальный орган для управления ИИ, подобно МАГАТЭ в ядерной энергетике. Как это сделать в условиях недоверия?

Мы живем в такую эпоху, и международные институты подвергаются критике по идеологическим или геостратегическим причинам. Преобладает логика «спасайся, кто может», и игры с нулевой суммой усложняют надежное международное управление. Сегодня модель win-win либо отсутствует, либо не ожидается. В этом отношении пандемия имела двойственный эффект. Положительно — она стимулировала кооперативный ответ в Европе, запустила механизмы солидарности, такие как фонды Next Generation, невозможные в 2008 году. Отрицательно — она усугубила неравенство, например, онлайн-образование исключило учеников из школьной среды и вызвало ощущение уязвимости и социального раздражения, что подпитывает недоверие к властям, мигрантам и другим странам, что сегодня способствует росту экстремизма.

Какие последствия у этого недоверия?

Теперь у граждан больше критического мышления, что можно считать демократическим прогрессом. Однако я считаю, что идея прозрачности переоценена, а наш визуальный культ ошибочно полагает, что видеть — значит понимать. В отличие от прозрачности — просто «видеть внутри черного ящика» — я предлагаю сосредоточиться на объяснимости: недостаточно показывать, нужно делать понятным, потому что современные технологические системы настолько сложны, что их можно правильно оценить только через надежные публичные посреднические институты.

Как бороться с алгоритмами, способствующими поляризации и дезинформации?

Мы переходим от экосистемы с малым количеством источников информации к множеству, где главная задача — отличить надежное. Это изобилие, полезное и демократичное, искажает социальные сети с алгоритмами, которые поощряют экстремизм, поляризацию, скандалы и наказывают умеренность. Но алгоритмы можно регулировать, чтобы способствовать динамикам, совместимым с демократической культурой, как делает ЕС.

Как решать конфликт между ИИ и авторскими правами?

Европа лидирует в регулировании авторских прав и конфиденциальности, но баланс сложен. Значительная часть человеческого творчества — это переработка чужого, мы не так креативны, как думаем. Не идет речь о оправдании плагиата, есть очевидные границы, но в других случаях трудно определить, что оригинально, а что повторяется, отчасти потому, что мы живем в культуре, наполненной банальными или малооригинальными продуктами — как сценарии сериалов или бестселлеры.

ИИ революционизирует такие области, как медицина, но обучение отстает. Что бы вы сказали, в целом, учителям и преподавателям, как себе?

В сферах, таких как медицина (или право), очень очевиден разрыв между ожиданиями общества и традиционной, заученной, мало креативной подготовкой. Хотя в здравоохранении и праве мы редко экспериментируем, нужна более целостная подготовка.

В целом я бы сказал учителям, что мы уже не просто передатчики информации. С тех пор как появился Google, эта роль стала тривиальной, студенты уже не нуждаются в нас, чтобы найти данные. Что мы можем им дать, чего они не смогут найти сами?: помочь сформулировать правильные вопросы — потому что искать — не так просто или спонтанно — и научить их действительно находить то, что ищут. Google конкурирует с нами только в сборе информации, а не в самом креативном обучении.

Источник: Aser G. Rada / Агентство SINC / CC By

Фотография: Juantxo Egaña / CC By-sa