Даниел Иннерарти: „Много е важно да се храни изкуственият интелект с повече разнообразие“

Даниел Инерарити, един от най-изявените испански мислители в съвременния свят, поставя в своята последна книга въпроса за необходимостта да „храним ИИ с повече разнообразие“, за да не се превърне в инструмент за изключване.

Инерарити (Билбао, 1959), професор по Политическа и Социална Философия, изследовател Ikerbasque в Университета на Страната Баски, излага тези идеи в Критическа теория на изкуствения интелект (Галаксия Гутенберг, 2025).

И заедно с разширяването на разнообразието в източниците, които захранват тези нови системи, професорът добавя още една идея: необходимостта от „надзор върху човешкото взаимодействие, за да се гарантира неговата съвместимост с демократичните ценности“.

В това интервю той говори за тази нова книга, наградена с III награда за есе Евгенио Триас. На корицата, гълъб върху огъната парапет пред морето подсказва, срещу очакванията, друг начин на гледане към технологичната революция.

Защо тази корица и тази книга?

Не исках типично изображение в синьо, асоциирано с етеричното и облака, защото възприемам изкуствения интелект по-материално, в контраст с човешкото тяло. Снимката, леко ретуширана с ИИ, играе с тази идея: машина би интерпретирала, че пръчката е огъната от тежестта на гълъба, докато ние, хората, разбираме шегата веднага. Това е метафора за разликите между нашата интуиция и обработката на ИИ.

Написах тази книга, за да се разбере какво е на карта. Има много истерия около технологиите, с нереалистични очаквания за техносолутии. Силициевата долина иска да вярваме, че технологиите, а не демократичното обсъждане, ще решат големите проблеми. Има и преувеличен паника, която не съответства на реалните рискове или нашите възможности да ги преодолеем. ИИ не налага един път, а отваря няколко възможности, като се вземат предвид историческия, политическия и геостратегическия контекст. Не е писано, че това ще свърши зле или че технологиите ще намалят нашата свобода, те могат да имат освободителен потенциал.

Дали ‘техносолутиизмът’ е идеологията на дигиталната ера?

Това е на някои големи предприемачи в дигиталния свят, подсилена от впечатляващото технологично развитие. Всеки ден се появяват обещаващи или тревожни новини: вчера жена възвърна речта си благодарение на ИИ; днес преводачите протестират, за да не захранват тези системи. Тази въртележка от напредък и конфликти поражда учудване.

Каква е ролята на политическото решение в алгоритмична демокрация, като се има предвид, че ИИ влияе както на дебата, така и на вземането на решения?

Процесът на вземане на решения в ИИ включва дизайн, данни и взаимодействие с потребителите, а ключът е кога, как и за какво трябва да участват хората. Липсата на разнообразие сред тези, които проектират системите, особено малкото присъствие на жени, може да създаде пристрастия. Един пример е разпознаването на лица, което обърква чернокожи жени с орангутани поради пристрастни обучения с повече изображения на бели мъже. Важно е да се захранва ИИ с повече разнообразие, както прави Испания с ИИ на испански и съпътстващите езици [ALIA], срещу сегашния англоцентризъм, и да се надзира човешкото взаимодействие, за да се гарантира съвместимост с демократичните ценности, както правят Algorithm Watch и AESIA (Агенцията за надзор на ИИ в Испания).

Защо не е желателно ИИ да бъде като човека? Можем ли да го контролираме?

В авиацията братята Райт показаха, че вместо да имитират птиците, трябва да изучават аеродинамиката. Така е и с ИИ: вместо да копира човешката интелигенция, трябва да използва способността си за изчисление и обработка на големи обеми данни. Добре работи в ситуации с ясни данни и двоични решения, но при сложни или неясни проблеми, хората остават незаменими.

Не сме намерили подходяща концепция за контрол върху ИИ: или оставяме твърде голямо пространство, рискувайки ценности, или прилагаме прекалено строг контрол, който спира ученето му. Европейският акт за ИИ напредва в правилната посока, но остава общ. Това е като през 1868 г., когато във Великобритания изискваха човек да върви пред колата с червена флагова лента, за да избегне инциденти. Ключът е да се съчетаят скорост и безопасност, както при модерните коли или ABS, където технологичният напредък предотвратява рисковете от рязко спиране в паника.

Какво легитимно право имаме да налагаме европейска регулация?

Идеално е да се постигне глобално съгласие за етични, политически и демократични стандарти, но културите ни са различни. Както при климатичните промени, знаем, че е спешно, но напредваме с частични споразумения. Въпреки това, европейските стандарти оказват влияние върху други участници. Освен това, ИИ и екологията се припокриват, защото енергийното потребление на тази технология е огромно и вече е част от международната климатична програма.

Какво означава, че регулациите за ИИ ги формулират хора, които не са дигитални натурали, с различно възприятие за рисковете и ползите в сравнение с новите поколения?

Дигиталната трансформация не се състои само в дигитализиране на администрациите, а в трансформиране на цялото общество. И такава трансформация с такъв мащаб трябва да бъде демократична и инклузивна, да отваря дебати, да позволява критика и да взема предвид генерационните, икономическите, географските и културните различия. Не може да се управлява, като се игнорира разнообразието: дигитални натурали, възрастни, мигранти, жители на селските райони… Това е изпитание, ще развием ли инклузивна технология или ще позволим тя да разделя и изхвърля? Трябва да избегнем дигитализацията да стане инструмент за изключване, както се видя при екологичната трансформация и протестите на жълтите жилетки във Франция.

В „Ерата на реванша“ Андреа Рици предлага глобална организация за управление на ИИ, като ОИЯЕ в ядрената енергетика. Как да го направим в контекст на недоверие?

Живеем в тази ера и международните институции са поставени под въпрос по идеологически или геостратегически причини. Преобладава логиката „спасете се кой както може“ и игрите с нулева сума, което затруднява стабилното международно управление. Днес моделът „печеливша-споделена“ още не съществува и не се очаква. В тази връзка, пандемията имаше двойнствени ефекти. Положително, тя насърчи сътрудничеството в Европа, като стимулира механизми за солидарност като фондовете Next Generation, невъзможни през 2008 г. Отрицателно, тя задълбочи неравенствата, като онлайн образованието, което изключи учениците от училищната среда, и създаде усещане за уязвимост и социална раздразнителност, което засили недоверието към власти, мигранти и други страни, и е причина за някои екстремизми днес.

Какви са последиците от това недоверие?

Сега гражданите имат по-голямо критично мислене, което може да се разглежда като демократичен напредък. Въпреки това, смятам, че идеята за прозрачност е преувеличена и че нашата визуална култура погрешно приема, че виждането означава разбиране. В сравнение с прозрачността – разбирана като просто „гледане вътре в черната кутия“ – предлагам да се фокусираме върху обяснимостта: не е достатъчно да се показва, трябва да се направи разбираемо, защото съвременните технологични системи са толкова сложни, че могат да бъдат оценявани адекватно само чрез надеждни публични институции за посредничество.

Как се справяме с алгоритми, които насърчават поляризацията и дезинформацията?

Преминаваме от екосистема с малко източници на информация към такава с много, където предизвикателството е да се разграничи надеждната. Тази изобилие, полезна и демократична, се изкривява от социалните мрежи с алгоритми, които насърчават екстремизма, поляризацията, скандалното и наказват умереността. Но алгоритмите могат да се регулират, за да се насърчават динамики, съвместими с демократичната култура, както прави ЕС.

Как се справяме с конфликта между ИИ и авторските права?

Европа води в регулацията на авторските права и личната неприкосновеност, но балансът е сложен. Значителна част от човешкото творчество е в преподреждането на чуждата креативност, не сме толкова креативни, колкото си мислим. Не става въпрос да се оправдава плагиатството, има очевидни граници, но в други случаи не е лесно да се определи кое е оригинално и кое е повторение, до голяма степен защото живеем в култура с много банални или формуларни продукти – като сценарии за сериали или бестселъри, базирани на малко оригинални формули.

ИИ революционизира области като медицината, но образованието изостава. Какво бихте казали, като общо, на учителите и преподавателите, като вас?

В области като медицина (или право) ясно се вижда разликата между очакванията на обществото и обучението, което е запаметяващо, повтарящо се и малко креативно. В здравеопазването и правото не правим много експерименти, но е необходима по-холистична подготовка.

Общо взето, бих казал на учителите, че вече не сме само предаватели на информация. Откакто съществува Google, тази функция стана банална, учениците вече не ни нуждаят, за да намерят данни. Какво можем да им дадем, което те не могат да намерят сами?: можем да им помогнем да формулират правилните въпроси – защото търсенето не е лесно или спонтанно – и да ги научим да намират истински това, което търсят. Google конкурира нас само в събиране на информация, не в най-креативното преподаване.

Източник: Асер Г. Рада / Агенция СИНК / CC By

Фотография: Хуанто Егана / CC By-sa