Падането на империята на изкуствения интелект

Докато състезанието за разработване на напреднали технологии за изкуствен интелект продължава с пълна сила, влиянието на Силициевата долина върху регулаторните дневни редове вече съперничи – и дори надминава – много държави. Въпреки това, между глобалните суперсили и гигантите в областта на ИИ, Европа има възможност да търси нещо по-добро. Интервю с наградената журналистка и писателка Карен Хао.

Alessio Giussani: Много метафори бяха използвани за описание на текущия модел на развитие на изкуствения интелект – например папагал или огледало. Защо избрахте именно метафората на империята?

Karen Hao: Смятам, че тези метафори са изключително полезни. Аз се фокусирам върху „империята“, защото не разглеждам само техническите средства и това, което се случва, когато те се прилагат в обществото, а също и производството на технологиите, както и участниците, които натрупват изключително голяма икономическа и политическа власт заради тяхното създаване.

Има четири основни причини да нарека тази система империя. Първо, тези компании се нуждаят от ресурси, които не принадлежат на тях: данните на индивидите, както и работата на писатели и създатели. Второ, те експлоатират работната сила в изключителна степен, като това важи както за работниците, които се използват в производствения процес и веригите за доставки на технологии, така и за тези, чиито трудови права се нарушават при внедряването на технологиите.

Третият аспект е контролът върху информацията. Един от основните признаци за разрастването на империята е способността да филтрират всяко производство на знание и информация през техните имперски филтри, и точно това правят компаниите за изкуствен интелект. Те контролират и цензурират науката, като финансират повечето изследвания в областта на ИИ и изграждат информационни технологии, които искат да превърнат в централен портал, чрез който всички останали се свързват с света, включително и в образованието.

И накрая, всичко това е облечено в цивилизационна мисия. Те твърдят, че се занимават с тази работа, защото в крайна сметка искат да предоставят на човечеството технология, която ще ни издигне до утопично състояние, а ако „лошите“ – обикновено Китай – я разработят преди нас, ще се потопим в дистопия. Това е вид религиозна нарративна линия, която е била често срещана и в старите империи.

Империята на ИИ, както я описвате, не се ограничава до една компания; това е система, логика. Какво стои зад вниманието към OpenAI и неговия изпълнителен директор, Сам Алтман?

Един от отговорите е, че хората имат нужда от истории, които им помагат да формулират конкретно това, което иначе остава абстрактна идея. Но OpenAI е особено интересно, защото взема всички важни решения, които променят индустриалните норми и насочват към изграждане на империя. OpenAI беше тази, която реши да се разраства на всяка цена, с големи езикови модели и създаде чатбот-подобен интерфейс за тях. Почти всичко, което днес обществото свързва с изкуствения интелект, първо беше решено вътре в стените на OpenAI.

Ако разкажем тази история, става много по-ясно, че изкуственият интелект не е неизбежен, защото разбираме, че истинските хора вземат решенията въз основа на своите ценности, светоглед, лични желания за отмъщение – каквото и да е, което всъщност е определило пътя на развитието на ИИ. Идеологиите на Сам Алтман не просто проникват в модела в абстрактен смисъл. Често се говори клишето, че моделите отразяват създателите си, но исках да покажа именно как се случва това в реалността. Става въпрос за компаниите, хората и икономическата и идеологическа среда, в която те са част.

Както тези технологии стават все по-ефективни, контролът върху тяхното приложение става екзистенциален въпрос. Видяхме как големите технологични компании се поклониха пред Тръмп при втория му инаугурационен акт, но също така виждаме как изпълнителните директори на компаниите за ИИ все повече се противопоставят на правителството. На чия страна ще бъде крайният думи – на държавата или на частните компании?

В процес е борбата за това кой ще взема решенията. Вярвам, че връзката между Вашингтон и Силициевата долина е като съюз за удобство, но много напрегнат. Представляват две различни имперски модели, всеки със собствените си имперски планове. И двамата се опитват да разширяват влиянието си и буквално да завземат повече територии от други страни, но администрацията на Тръмп разглежда компаниите за ИИ като инструменти за имперските амбиции на държавата. Междувременно, Силициевата долина вижда администрацията на Тръмп като инструмент за своите имперски стремежи, но всъщност двамата не са на една вълна, защото и двамата искат да бъдат най-висшата власт, която ще доминира.

Имало е моменти, когато американското правителство е показвало, че все още е господар – когато Тръмп и Мъск се сблъскаха, Мъск беше уволнен. Но когато Министерството на отбраната се сблъска с Anthropic, компанията показа, че в този случай е по-силната страна: министърът на отбраната Пийт Хегзет предложи „ядрена опция“, заплашвайки да обяви компанията за риск за веригата за доставки – като крайна мярка, с която да принуди Anthropic да се подчини, но и това не се случи. Доста неудобно, Министерството на отбраната се оказа дълбоко зависимо от частен играч, който отказва да сътрудничи според условията на правителството, и правителството няма какво да направи.

И двете страни в империята трябва да бъдат отчетни, и това няма да дойде от тях; трябва да дойде от народа. Отдолу нагоре, чрез организиране и движение, което започваме да виждаме по целия свят, включително и в САЩ. Колкото и да изглежда тази съюзна връзка непреодолима, всъщност е изключително крехка, и има възможности да се ускори нейният крах, ако оказваме по-голям натиск върху слабите й места.

Вместо да разглеждаме изкуствения интелект като глобално състезание между добрите и лошите, трябва да помислим по-скоро за нашето бъдеще за обществото.

Настоящото състояние на разработката на изкуствения интелект изглежда като състезание към дъното между конкурентните компании и глобалните суперсили. Каква роля изигра геополитическата конкуренция с Китай в това, че ИИ достигна до сегашната трудна ситуация?

Китай е карта, която Силициевата долина вече използва от десетилетие, практически от момента, в който беше изгонена от Китай. Но ако разгледаме по-рано резултатите от тази стратегия, ще видим, че в реалността винаги се е случвало точно обратното на прогнозите на Силициевата долина.

Твърдяха, че липсата на регулации за компаниите в Силициевата долина – и регулирането им чрез китайските износни ограничения – ще доведе до глобално доминиране на американските технологии. Но TikTok е най-популярната социална медийна платформа, а китайските модели за отворен код за ИИ стават все по-популярни по света, включително и в САЩ. Освен това обещаваха, че доминацията на Силициевата долина ще има либерализиращ ефект върху света, но това не се случи; ефектът им беше точно обратният – дълбока нелиберализация. Виждаме силна ерозия на демократичните институции и ускоряване на връщането към авторитаризъм, което беше подпомогнато и от платформите в Силициевата долина и технологиите за изкуствен интелект.

Вместо да разглеждаме изкуствения интелект като глобално състезание между добрите и лошите, трябва да помислим по-скоро за нашето бъдеще за обществото, какви технологии за ИИ ще подкрепят това бъдеще и какви ресурси са ни нужни за реализирането му. Не трябва да се състезаваме в рамките на състезанието, определено от Силициевата долина, а в тези идеи и ценности, които искаме да запазим. И вярвам, че Европа има възможност да покаже на света трети път, различен от този на САЩ и Китай, и да постави нови правила.

Европейската комисия наскоро прие пакет за технологична суверенитетност, който е част от усилията Европа да следва свой технологичен път. Как можем да формулираме това бъдеще, така че да не получим европейска версия на олигархичен модел, базиран на наблюдение?

Водещата посока, която Европа трябва да следва, не е суверенитет заради самия суверенитет, а целта е да постигнем този суверенитет. Европа – или поне голяма част от нея – е една от последните крепости на демокрацията в света. Тя подкрепя човешките права и свободите, и се нуждае от технологичен суверенитет, за да насърчава тези ценности. Докато остава силно зависима от системи, разработени по авторитарен начин и насочени към разрушаване на европейските общества, тя няма да може да запази своите ценности.

Концепцията за суверенитет лесно се размива, ако я възприемаме само като цел сама по себе си. Тя трябва да бъде средство за постигане на конкретна цел.

От кои коалиции, интереси или конфликти трябва да започнем, за да изградим тази алтернативна визия за бъдещето?

Първо, трябва да разширим разбирането за управление на ИИ. Например, укрепването на правата на работниците и защитата на гражданското общество също са част от управлението на ИИ. Студентите, учителите и здравните работници трябва да участват в процеса, за да помогнат да се формира и да се поставят под въпрос начините, по които се развива и прилага изкуственият интелект в обществото. Образованието е ключово – както като сектор, така и като коалиция, която трябва да включим, и като социална осведоменост за ИИ.

Друга важна точка е финансирането на изследователите и предприемачите в областта на ИИ, за да се разберат техническите аспекти на разработките и начините за приложение. Но не можем просто да им даваме пари, без да дадем глас и на останалата част от обществото; иначе ще повторим проблемите, с които се сблъскваме в САЩ, където решенията често се взимат от технократи или техноконсерватори.

Не започваме от нулата. Много работа вече е свършена за определяне на общите цели, към които трябва да се стреми обществото. Например, говоря за Целите за устойчиво развитие. Това може да бъде отправна точка за разработване на стратегия за финансиране на иновациите в областта на ИИ.

Настоящите нарративи за технологиите за изкуствен интелект са изключително поляризирани. От едната страна са тези, които твърдят, че в тези технологии няма нищо особено ново и че балонът скоро ще се спука. От другата страна са тези, които вярват, че ИИ ще трансформира живота ни, ще революционизира веригите за доставки и ще направи всички ни излишни. Какво мислите за тези различни гледни точки?

Истина е, че много хора преувеличават ползите, без да вземат предвид разходите за технологиите, или пък ги подчертават прекалено, без да виждат ползите. Но според мен, голям дял от хората са съгласни, че искаме да се възползваме от предимствата на ИИ, без да жертваме достойнството си – включително доброто здравеопазване, икономическите възможности, здравословната околна среда и процъфтяващата планета. Това е най-балансираният подход.

Изкуственият интелект (ИИ) е обобщаващо название за много различни технологии, затова трябва внимателно да преценим в кои да инвестираме и какви нови технологии искаме да развиваме, защото всяка от тях носи различни компромиси; някои съответстват на бъдещето, което искаме да изградим, а други – не. Трябва мъдро да изберем.

Изкуственият интелект (ИИ) обхваща множество различни технологии, затова трябва внимателно да преценим в кои да инвестираме и какви нови технологии да развиваме.

Какво е вашето отношение към съществуващите инструменти за ИИ?

Три основни причини ги избягвам. Първо, заради етичните ми убеждения. Второ, заради позицията ми по отношение на поверителността: тези компании използват най-ефективните наблюдателни технологии, създавани някога. Трето, тези инструменти не са особено полезни за специфичния набор от умения, от които се нуждая за работата си.

Не казвам, че всеки трябва да ги избягва. Много хора ги използват и печелят от тях, или пък е задължително да ги използват в професионалната си дейност. По-скоро решението за сегашния проблем е да направим като в други индустрии, например модната, където, когато разбрахме, че голяма част от дрехите ни се произвеждат при ужасни условия, не просто се отървахме от тях. Трябваше да въведем организации на потребителите, работнически движения, държавни регулации и обществено мнение, за да ограничим индустрията. Разбира се, модната индустрия все още не е съвършена, но вече има алтернативи, и потребителите могат да гласуват с парите си за това, какви вериги за доставки и бизнес практики подкрепят.

Същото трябва да направим и с изкуствения интелект. В момента няма достатъчно алтернативи за потребителите, и за да се промени това, са нужни повече работнически организации и по-голямо обществено съпротивление. Тези, които могат, трябва да бойкотират технологиите, а правителствата трябва да се намесят, за да създадат нови пазари за алтернативи.

Потребителите имат важна роля, но не са единствените. Като хора, като работници, преподаватели и граждани, трябва да помислим как можем да използваме тези роли за подобряване на развитието на изкуствения интелект.