Злом імперії ШІ

Маючи на увазі, що технології розвиненого штучного інтелекту, що розробляються, ведуться у рамках технократично-авторитарної конкуренції, яка йде повним ходом, вплив Кремнієвої долини на регуляторні порядки вже зрівнюється – а іноді й перевищує – багато держав. Однак між глобальними супердержавами та гігантами ШІ Європа має можливість шукати щось краще. Інтерв’ю з нагородженою журналісткою та письменницею Карен Хаовою.

Alessio Giussani: Багато метафор використовувалися для опису сучасної моделі розвитку штучного інтелекту – наприклад, папуга або дзеркало. Чому саме ви обрали метафору імперії?

Karen Hao: Вважаю, ці метафори дуже корисні. Я зосереджуюся на «імперії», тому що я не лише аналізую технічний інструмент і те, що відбувається, коли його застосовують у суспільстві, а й виробництво технології, а також тих учасників, які накопичують надзвичайну економічну та політичну владу для її створення.

Я називаю цю систему імперією з чотирьох основних причин. По-перше, ці компанії потребують ресурсів, які їм не належать: даних окремих осіб, а також праці авторів і творців. По-друге, вони надзвичайно експлуатують робочу силу, і це стосується як працівників, яких експлуатують у виробничих процесах і ланцюгах постачання технологій, так і тих, чиї трудові права порушують під час впровадження технологій.

Третя причина – контроль інформації. Однією з головних характеристик розширення імперій є здатність фільтрувати будь-яке виробництво знань і інформації через їх імперські цілі, і саме це роблять компанії штучного інтелекту. Вони контролюють і цензурують науку, фінансуючи більшість досліджень у галузі штучного інтелекту та створюючи інформаційні технології, які мають стати центральним порталом, через який усі інші підключаються до світу, включаючи освіту.

І нарешті, все це вони маскують під цивілізаційну місію. Вони стверджують, що займаються цим, щоб у кінцевому підсумку надати людству технології, які піднімуть нас у утопічний стан, і якщо ці технології розробляють перед нами «погані хлопці» – зазвичай маючи на увазі Китай – то ми швидше опустимося у дистопічний стан. Це своєрідна релігійна наративна концепція, яка була поширена й у старих імперіях.

Імперія ШІ, як ви її описуєте, не обмежується однією компанією; це система, логіка. Що стоїть за увагою до OpenAI та її генерального директора, Сема Альтмана?

Одна з відповідей полягає в тому, що людям потрібні історії, які допомагають конкретизувати те, що інакше залишалося б абстрактною ідеєю. Але OpenAI особливо цікава тим, що вона прийняла всі важливі рішення, які змінили галузеві норми і спрямували її у напрямку побудови імперії. Саме OpenAI вирішила розширюватися будь-якою ціною, працювати з великими мовними моделями та створити чат-бот-подібний інтерфейс для них. Майже все, що сьогодні суспільство асоціює із штучним інтелектом, спочатку було визначено всередині компанії OpenAI.

Якщо розповісти цю історію, стає очевидним, що штучний інтелект не неминучий, бо ми розуміємо, що саме люди приймали рішення, ґрунтуючись на своїх цінностях, світогляді, особистих бажаннях помсти – що б це не було, що насправді визначило шлях розвитку штучного інтелекту. Ідеології Сема Альтмана не просто пронизують модель у абстрактному сенсі. Часто кажуть, що моделі відображають їхніх творців, але я хотіла показати, як це насправді відбувається. Це стосується компаній, людей і економічного та ідеологічного середовища, у якому вони перебувають.

Якщо технології стають дедалі ефективнішими, контроль над їх застосуванням стає екзистенційним питанням. Ми бачили, як великі технологічні компанії підкорилися Трампу під час його другого інавгураційного виступу, але також бачимо, що керівники компаній у галузі штучного інтелекту все більше й більше виступають проти уряду. Хто в кінцевому підсумку матиме останнє слово – держава чи приватний сектор?

Ведеться боротьба за те, хто прийматиме рішення. Я вважаю, що зв’язок між Вашингтоном і Кремнієвою долиною – це союз зручності, але дуже напружений. Вони представляють два різні імперські моделі, кожна зі своїми імперськими планами. Обидві прагнуть розширюватися і буквально захоплювати більше територій у інших країнах, але адміністрація Трампа розглядає компанії ШІ як інструменти імперських амбіцій держави. У той час як Кремнієва долина вважає адміністрацію Трампа інструментом своїх імперських прагнень, вони фактично не на одній хвилі, бо обидві хочуть, щоб саме вони були головним органом, що зайняв вершину.

Були моменти, коли американський уряд доводив, що він ще залишається господарем ситуації – коли Трамп і Маск посварилися, Маска звільнили. Але коли Міністерство оборони вступило у конфлікт з Anthropic, компанія довела, що у цій ситуації вона сильніша: міністр оборони Піт Гесетх висунув «ядерний варіант», погрожуючи визнати компанію ризиком для ланцюгів постачання – як крайній засіб примусу, щоб змусити Anthropic підкоритися, – але компанія навіть тоді не погодилася. Досить незручно, що Міністерство оборони глибоко залежить від приватного гравця, який не бажає співпрацювати за умовами уряду, і уряд нічого з цим зробити не може.

Обидві імперські сторони мають бути підзвітними, і ця підзвітність не має походити від однієї з них; вона має йти знизу вгору, від народу. Це має базуватися на організації, що виникає знизу, і яку ми починаємо бачити по всьому світу, включаючи США. Наскільки б ця союзна зручність не здавалася непорушною, вона насправді дуже крихка, і є можливості прискорити її крах, чинячи більший тиск на її слабкі місця.

Замість того, щоб розглядати штучний інтелект як глобальну боротьбу між добром і злом, слід подумати про наші уявлення про майбутнє суспільства.

Поточний стан розвитку штучного інтелекту нагадує змагання за дно між конкурентами та глобальними супердержавами. Яку роль відіграла геополітична конкуренція з Китаєм у тому, що штучний інтелект опинився у цій складній ситуації?

Китай – це карта, яку Кремнієва долина вже розігрує понад десять років, фактично з моменту, коли його вигнали з Китаю. Але якщо проаналізувати попередні результати цієї аргументації, видно, що насправді завжди відбувалося протилежне тому, що передбачали прогнози Кремнієвої долини.

Вони стверджували, що відсутність регулювання у Кремнієвій долині – і регулювання через експортні обмеження Китаю – дозволить американській технології домінувати у світі. Однак TikTok залишається найпопулярнішою платформою соціальних мереж, а китайські відкриті моделі штучного інтелекту стають дедалі популярнішими у всьому світі, включаючи США. Вони також обіцяли, що домінування Кремнієвої долини матиме лібералізуючий вплив на світ, але цього не сталося; їхній вплив, навпаки, був глибоко неліберальним. Спостерігається надзвичайна ерозія демократичних інститутів і швидке поглиблення занепаду демократії, що сприяли платформи Кремнієвої долини і технології штучного інтелекту.

Замість того, щоб розглядати штучний інтелект як глобальну боротьбу між добром і злом, слід подумати про наші уявлення про майбутнє суспільства, які технології штучного інтелекту підтримували б це бачення, і які ресурси нам потрібні для його реалізації. Не потрібно змагатися у змаганні, визначеному Кремнієвою долиною, а у тих ідеях і цінностях, які ми прагнемо зберегти. І я вважаю, що у Європи тут є можливість показати світові третій шлях, який відрізняється від США і Китаю, і встановити нові правила.

Європейська комісія нещодавно прийняла пакет технологічної суверенності, що є частиною зусиль, щоб Європа йшла власним технологічним шляхом. Як сформулювати цю картину майбутнього так, щоб не отримати олігархічну бізнес-модель, засновану на спостереженні, у європейському варіанті?

Головна зірка, яку має слідувати Європа, – це не суверенітет заради суверенітету, а мета досягти цього суверенітету. Європа – або принаймні її більша частина – є однією з останніх фортець демократії у світі. Вона підтримує права і свободи людини, і їй потрібен технологічний суверенітет, щоб просувати ці цінності. Поки вона залишається надзвичайно залежною від систем, які розробляються дуже авторитарним способом і спрямовані на підрив європейських суспільств, вона не зможе зберегти свої цінності.

Концепція суверенітету має тенденцію розмиватися, якщо почати його розглядати лише як саму ціль. Це має бути інструмент для досягнення певної мети.

З яких коаліцій, інтересів або конфліктних платформ слід починати, щоб побудувати цю альтернативну картину майбутнього?

По-перше, управління штучним інтелектом потрібно сприймати ширше. Наприклад, посилення прав працівників і захист громадянського суспільства також є частиною управління штучним інтелектом. Студенти, викладачі та медичні працівники мають бути залучені до процесу формування і критики того, як розробляється і застосовується штучний інтелект у суспільстві. Освіта є ключовою, як у секторі, так і у коаліціях, які потрібно залучати, а також у просвітницькій роботі щодо штучного інтелекту.

Ще один важливий аспект – фінансування дослідників і підприємців у галузі штучного інтелекту для з’ясування технічних деталей їхніх розробок і способів застосування. Але ми не можемо просто давати їм гроші, не прислухаючись до голосу інших частин суспільства; інакше ми повторимо проблеми, з якими стикаємося у США, де фактично технократи або техноконсерватори приймають рішення.

Ми не починаємо з нуля. Уже зроблено багато роботи для визначення спільних цілей, до яких має прагнути суспільство. Наприклад, я маю на увазі цілі сталого розвитку. Це може стати відправною точкою для визначення, як фінансувати інновації у галузі штучного інтелекту.

Поточні наративи щодо технологій штучного інтелекту дуже поляризовані. З одного боку, є ті, хто вважає, що у цих технологіях немає нічого особливо нового і що «бульбашка» скоро лусне. З іншого – ті, хто вважає, що штучний інтелект змінить наше життя, революціонізує ланцюги постачання і зробить нас усіх зайвими. Що ви думаєте про ці різні позиції?

Правда в тому, що багато хто схильний перебільшувати переваги, не враховуючи витрат технологій, або навпаки, занадто підкреслювати витрати, не бачачи переваг. Але я вважаю, що досить багато людей погоджуються з тим, що хочуть користуватися перевагами штучного інтелекту, не за рахунок гідного життя – до якого належать хороше медичне обслуговування, економічні можливості, здорове довкілля і процвітаюча планета. Це найзбалансованіший підхід.

Штучний інтелект (ШІ) – це назва для багатьох технологій, тому потрібно ретельно обдумати, у які з них інвестувати і які нові технології розробляти, бо кожна з них має свої компроміси; деякі відповідають тому майбутньому, яке ми прагнемо побудувати, інші – ні. Мудро потрібно робити вибір.

Штучний інтелект (ШІ) охоплює багато різних технологій, тому потрібно ретельно обдумати, у які з них вкладати і які нові технології розробляти.

Яке ваше ставлення до існуючих інструментів штучного інтелекту?

Я не використовую їх з трьох головних причин. По-перше, через етичні міркування. По-друге, через свою позицію щодо захисту приватності: ці компанії є найефективнішими технологіями спостереження, коли-небудь створеними. По-третє, ці інструменти не дуже корисні для тих спеціальних навичок, які мені потрібні для моєї роботи.

Я не кажу, що всім потрібно робити так само. Багато людей користуються цими інструментами і отримують від них користь, або їм потрібно їх використовувати у своїй професійній діяльності. Але правильним рішенням для нинішніх проблем є те, що ми робимо з іншими галузями, наприклад, з модною індустрією. Коли ми зрозуміли, що більшість наших речей виробляють у жахливих умовах, ми не просто позбулися речей. Потрібно було багато спільних зусиль споживачів, працівників і регулюючих органів, щоб стримати цю галузь. Звісно, індустрія моди ще далека від ідеалу, але сьогодні вже є альтернативи, і споживачі можуть голосувати своїми гаманцями, підтримуючи ті ланцюги постачання і корпоративні практики, які їм подобаються.

Те саме потрібно зробити і з штучним інтелектом. Зараз немає достатньо альтернатив для користувачів, і щоб це змінити, потрібно більше працівницьких організацій і ширша громадська опірність. Ті, хто може утриматися від використання цих технологій, мають їх бойкотувати, а уряди – втрутитися, щоб допомогти створити нові ринки для альтернатив.

Громадський вплив важливий, але не єдиний. Як особистості, працівники, викладачі і громадяни, ми маємо подумати, як використовувати ці ролі для покращення розвитку штучного інтелекту.