Падение империи ИИ

Пока технологическая гонка за развитие передовых технологий искусственного интеллекта продолжается полным ходом, влияние Кремниевой долины на регуляторные повестки уже соперничает — а порой и превосходит — многие государства. Однако среди амбиций глобальных сверхдержав и гигантов ИИ у Европы есть возможность искать что-то лучшее. Интервью с награжденной журналисткой и писательницей Карен Хао.

Alessio Giussani: Много метафор было предложено для описания текущей модели развития искусственного интеллекта — например, попугай или зеркало. Почему вы выбрали именно метафору империи?

Karen Hao: Я считаю, что эти метафоры очень полезны. Я сосредотачиваюсь на «империи», потому что я рассматриваю не только технический инструмент и то, что происходит при его применении в обществе, но и производство технологий, а также тех участников, которые накапливают чрезвычайно большое экономическое и политическое влияние для его создания.

Я называю эту систему империей по четырем основным причинам. Во-первых, эти компании требуют ресурсов, которые не принадлежат им: данные отдельных лиц, а также работу писателей и создателей. Во-вторых, они чрезвычайно эксплуатируют рабочую силу, что касается как работников, задействованных в производственном процессе и цепочках поставок технологий, так и тех, чьи трудовые права нарушаются при внедрении технологий.

Третий аспект — контроль информации. Одной из главных характеристик расширения империй является способность фильтровать все производство знаний и информацию через их имперские фильтры, и именно это делают компании, занимающиеся искусственным интеллектом. Они контролируют и цензурируют науку, финансируя большинство исследований в области ИИ и создавая информационные технологии, которые они стремятся сделать центральным порталом, через который все подключаются к миру, включая образование.

И, наконец, все это маскируется под цивилизационную миссию. Они утверждают, что занимаются этим, чтобы в конечном итоге предоставить человечеству технологии, поднимающие нас в утопическое состояние, и если эти технологии разрабатываются «плохими парнями» — обычно это Китай — то мы погружаемся в дистопию. Это своего рода религиозный нарратив, который был характерен и для старых империй.

Империя ИИ, как вы описываете, не ограничивается одной компанией; это система, логика. Что стоит за вниманием к OpenAI и его генеральному директору, Сэму Альтману?

Один из ответов — людям нужны истории, которые помогают конкретизировать то, что иначе осталось бы абстрактной идеей. Но OpenAI особенно интересна тем, что приняла все важные решения, которые изменили отраслевые стандарты и направили развитие в сторону построения империи. Именно OpenAI решила, что нужно расти любой ценой, создавая крупные языковые модели и чатботы. Почти все, что сегодня общество связывает с искусственным интеллектом, впервые было решено внутри стен OpenAI.

Рассказывая эту историю, становится очевиднее, что искусственный интеллект не является неизбежным — мы понимаем, что за решениями стоят реальные люди, исходя из своих ценностей, мировоззрения, личных мотивов — что бы ни определяло траекторию развития ИИ. Идеологии Сэма Альтмана пронизывают модель не только в абстрактном смысле. Часто говорят, что модели отражают своих создателей, но я хотела показать, как это происходит на самом деле. Речь идет о компаниях, людях и экономической и идеологической среде, в которой они участвуют.

По мере того, как эти технологии становятся все более эффективными, контроль над их применением превращается в экзистенциальный вопрос. Мы видели, как крупные технологические компании уступили Трампу на его втором вступлении в должность, но также наблюдаем, как руководители компаний в области ИИ все больше противостоят правительству. Кто в итоге скажет последнее слово — государство или частные компании?

Идет борьба за то, кто будет принимать решения. Я считаю, что связь между Вашингтоном и Кремниевой долиной — это союз удобства, но очень напряженный. Они представляют два разных имперских модели, каждая со своими планами. Обе пытаются расширяться и буквально захватывать больше территорий у других стран, но администрация Трампа рассматривает компании ИИ как инструменты имперских амбиций государства. В то время как Кремниевая долина видит в администрации Трампа инструмент своих собственных имперских устремлений, но на самом деле они не на одной волне, потому что обе стороны хотят, чтобы именно они были высшей властью, которая достигнет вершины.

Бывали моменты, когда американское правительство доказывало, что оно все еще хозяин — например, когда Трамп и Маск столкнулись, Маска уволили. Но когда Министерство обороны вступило в конфликт с Anthropic, компания показала, что в этом случае она сильнее: министр обороны Пит Хегсет предложил «ядерную опцию», угрожая объявить компанию риском для цепочек поставок — как крайней меры, чтобы заставить Anthropic подчиниться, — но даже тогда компания не пошла на уступки. Достаточно неловко, что Министерство обороны оказалось глубоко зависимым от частного игрока, который не желает сотрудничать по условиям правительства, и правительство ничего не может с этим сделать.

Обязаны быть подотчетными обе стороны империи, и эта подотчетность не должна исходить ни от одной из них; она должна исходить от народа. Это нисходящая, снизу вверх организованность, которая начинает расцветать по всему миру, включая США. Несмотря на кажущуюся непроходимость этого союза удобства, он на самом деле очень хрупкий, и есть возможности ускорить его распад, оказывая давление на его слабые места.

Вместо того чтобы рассматривать искусственный интеллект как глобальную конкуренцию между добрыми и злыми, нам следует думать о том, каким мы видим будущее общества.

Текущий статус развития искусственного интеллекта кажется конкуренцией за дно между конкурентами и глобальными сверхдержавами. Какую роль сыграла геополитическая конкуренция с Китаем в том, что ИИ оказался в нынешней сложной ситуации?

Китай — это карта, которую Кремниевая долина разыгрывает уже более десятилетия, практически с тех пор, как его изгнали из Китая. Но если взглянуть на предыдущие результаты этого аргумента, видно, что на самом деле всегда происходило противоположное тому, что предсказывали в Кремниевой долине.

Они утверждали, что отсутствие регулирования в Кремниевой долине — и регулирование через экспортные ограничения Китая — приведет к глобальному доминированию американских технологий. Но TikTok — самая популярная социальная платформа, а открытые модели китайского происхождения становятся все более популярными по всему миру, в том числе и в США. Также обещали, что доминирование Кремниевой долины будет либерализовать мир, но этого не произошло; их влияние, наоборот, усилило авторитаризм. В результате наблюдается значительная эрозия демократических институтов и ускорение их отката, чему способствовали платформы Кремниевой долины и технологии ИИ.

Вместо того чтобы рассматривать искусственный интеллект как глобальную конкуренцию между добрыми и злыми, нам следует думать о том, каким мы видим будущее общества, какие технологии ИИ поддерживали бы это будущее, и какие ресурсы нужны для его реализации. Не в соревновании, определяемом Кремниевой долиной, нужно участвовать, а в тех концепциях и ценностях, которые мы хотим сохранить. И я считаю, что у Европы есть шанс показать миру третий путь, отличный от США и Китая, и установить новые правила.

Европейская комиссия недавно приняла пакет технологического суверенитета, являющийся частью усилий по развитию собственной технологической траектории. Как сформулировать это видение будущего так, чтобы не получить европейскую версию олигархической модели, основанной на наблюдении?

Главная звезда, которой должна следовать Европа, — это не суверенитет ради суверенитета, а достижение этого суверенитета. Европа — или хотя бы большая часть — остается одним из последних оплотов демократии в мире. Она поддерживает права человека и свободы, и нуждается в технологическом суверенитете, чтобы продвигать эти ценности. Пока она остается чрезвычайно зависимой от систем, разрабатываемых в авторитарных режимах и направленных на подрыв европейского общества, она не сможет сохранить свои ценности.

Понятие суверенитета склонно размываться, если мы начинаем рассматривать его как самоцель. Оно должно быть средством достижения определенной цели.

Из каких коалиций, интересов или конфликтных площадок следует исходить, чтобы построить альтернативное будущее?

Прежде всего, управление ИИ нужно воспринимать шире. Например, укрепление прав работников и защита гражданского общества — это тоже часть управления ИИ. Студенты, учителя и медицинские работники должны участвовать в формировании и критике методов разработки и применения искусственного интеллекта в обществе. Образование — ключ, как в виде сектора, так и в виде коалиций, которые нужно вовлекать, а также в вопросе просвещения общества о ИИ.

Еще один важный аспект — финансирование исследователей и предпринимателей в области ИИ, чтобы понять технические детали их разработки и способы применения. Но мы не можем просто давать им деньги, не прислушиваясь к остальной части общества; иначе мы повторим проблемы, с которыми сталкиваются в США, где решения принимают технократы или техноконсерваторы.

Мы не начинаем с нуля. Уже проведена большая работа по определению общих целей, к которым должна стремиться общество. Например, я говорю о цели устойчивого развития. Это может стать отправной точкой для поиска способов финансирования инноваций в области ИИ.

Нынешние нарративы о технологиях ИИ очень поляризованы. Одни считают, что в этих технологиях ничего особенно нового нет и что пузырь скоро лопнет. Другие же полагают, что ИИ изменит нашу жизнь, революционизирует цепочки поставок и сделает всех ненужными. Что вы думаете о таких разных позициях?

Правда в том, что многие склонны преувеличивать преимущества, не учитывая издержки технологий, или наоборот — слишком акцентировать на них, не замечая преимуществ. Но я считаю, что достаточно много людей согласны с тем, что хотят пользоваться преимуществами ИИ, не жертвуя своим достоинством — включая хорошее здравоохранение, экономические возможности, здоровую окружающую среду и процветающую планету. Это самый сбалансированный подход.

Искусственный интеллект (ИИ) — это название для множества технологий, поэтому важно тщательно подумать, в какие из них инвестировать и какие новые технологии развивать, потому что каждое решение связано с компромиссами; некоторые из них соответствуют тому будущему, которое мы хотим построить, а некоторые — нет. Нужно мудро выбирать.

Искусственный интеллект (ИИ) включает в себя множество различных технологий, поэтому нам нужно тщательно обдумать, в какие из них вкладывать и какие новые технологии развивать.

Каково ваше отношение к существующим инструментам ИИ?

Я не использую их по трем основным причинам. Во-первых, из этических соображений. Во-вторых, из-за моего отношения к защите личной жизни: эти компании — это, в конечном счете, самые эффективные технологии слежки, когда-либо изобретенные. В-третьих, эти инструменты не очень полезны для тех специальных навыков, которые мне нужны для моей работы.

Я не говорю, что всем нужно поступать так же. Я общалась с многими людьми, которые явно извлекают выгоду из этих инструментов или вынуждены их использовать в рамках своей профессиональной деятельности. Но лучшее решение текущей проблемы — так же, как мы делали в других отраслях, например, в моде, — это не просто запретить или отказаться, а изменить ситуацию через общественное давление и регулирование. Когда мы узнали, что большая часть одежды производится в ужасных условиях, мы не просто выбросили ее. Для этого потребовалось множество потребительских и рабочих организаций, государственных правил и общественного мнения, чтобы ограничить индустрию. Конечно, индустрия моды еще далека от идеала, но сегодня есть альтернативы, и потребители могут голосовать кошельком, поддерживая цепочки поставок и практики компаний, которым доверяют.

То же самое нужно делать и с искусственным интеллектом. Сейчас у пользователей недостаточно альтернатив, и чтобы это изменилось, нужны больше рабочих организаций и общественное сопротивление. Те, кто может воздерживаться от использования этих технологий, должны бойкотировать их, а правительства — вмешиваться, чтобы помочь создать новые рынки для альтернативных решений.

Потребительское влияние важно, но не единственное. Как люди, мы также выполняем роли работников, преподавателей и граждан, и должны подумать, как использовать эти роли для улучшения развития искусственного интеллекта.