Даніель Іннераріті: «Важливо забезпечити штучний інтелект більшою різноманітністю»

Даніель Інераріті, один із найвидатніших іспанських мислителів сучасного світу, висловлює у своєму останньому книжковому виданні необхідність «підживлювати ШІ більшою різноманітністю», щоб він не став інструментом виключення.

Інераріті (Більбао, 1959), професор Політичної та Соціальної Філософії, дослідник Ikerbasque в Університеті Страної Басків, викладає ці ідеї у Критичній теорії штучного інтелекту (Galaxia Gutenberg, 2025).

І разом із розширенням різноманітності джерел, що живлять ці нові системи, професор додає ще одну ідею: необхідність «контролювати людську взаємодію, щоб гарантувати її сумісність із демократичними цінностями».

У цьому інтерв’ю він обговорює цю нову книгу, яка була нагороджена III премією Енсіо Тріяса. На обкладинці зображена чайка на зламаному поручні перед морем, що натякає, всупереч очікуванням, на інший спосіб погляду на технологічну революцію.

Чому саме така обкладинка і ця книга?

Я не хотів стандартне зображення у блакитних тонах, асоційоване з ефірністю і хмарами, бо сприймаю штучний інтелект більш матеріально, у контрасті з людським тілом. Фото, трохи оброблене за допомогою ШІ, грає з цією ідеєю: машина інтерпретувала б, що поручень зламався через вагу чайки, тоді як люди одразу зрозуміють жарт. Це метафора різниць між нашою інтуїцією і обробкою ШІ.

Я написав цю книгу, щоб було зрозуміло, що на кону. Існує багато істерії навколо технологій, із завищеними очікуваннями техно-рішень. Кремнієва долина хоче, щоб ми повірили, що технології, а не демократичні обговорення, вирішать великі проблеми. Також існує перебільшений панічний страх, що не враховує реальні ризики і наші можливості їх подолати. ШІ не нав’язує один шлях, він відкриває кілька можливостей, залежно від історичного, політичного і геостратегічного контексту. Не написано, що все закінчиться погано, або що технології зменшать нашу свободу, вони можуть мати звільняючий потенціал.

Чи є ‘техно-рішенням’ ідеологія цифрової епохи?

Це ідеологія деяких великих підприємців цифрового світу, посилена вражаючим технологічним розвитком. Щодня з’являються обнадійливі або тривожні новини: вчора жінка відновила мову завдяки ШІ; сьогодні перекладачі протестують, щоб їхні роботи не підживлювали ці системи. Цей карусель прогресу і конфліктів викликає здивування.

Яка роль політичного рішення в демократичному алгоритмі, враховуючи, що ШІ впливає і на дискусії, і на прийняття рішень?

Процес прийняття рішень у ШІ включає дизайн, дані і взаємодію з користувачами, і ключовим є питання, коли, як і для чого мають втручатися люди. Відсутність різноманітності у тих, хто створює ці системи, особливо недостатня жіноча присутність, може спричинити упередження. Прикладом є розпізнавання облич, яке плутало чорних жінок з орангутангами через упереджене навчання на більшій кількості зображень білих чоловіків. Вкрай важливо підживлювати ШІ більшою різноманітністю, як це робить Іспанія з ШІ іспанською мовою та співмовами [ALIA], проти сучасного англоцентризму, і контролювати людську взаємодію, щоб гарантувати її сумісність із демократичними цінностями, як це роблять Algorithm Watch і AESIA (Агентство іспанського нагляду за ШІ).

Чому не бажано, щоб ШІ був таким самим, як людина? Чи можемо ми його контролювати?

У авіації брати Райт довели, що замість імітації птахів потрібно вивчати аеродинаміку. Так і з ШІ: замість копіювати людський інтелект, потрібно використовувати його обчислювальні можливості і обробку великих обсягів даних. Він добре працює у контекстах із чіткими даними і бінарними рішеннями, але у складних або неоднозначних проблемах люди залишаються незамінними.

Ми не знайшли адекватної концепції контролю для ШІ: або даємо занадто багато свободи, ризикуємо цінностями, або застосовуємо надмірний контроль, що гальмує його навчання. Європейський акт про ШІ рухається у правильному напрямку, але залишається загальним. Це як у 1868 році, коли у Великій Британії вимагали, щоб людина йшла попереду автомобіля з червоним прапором, щоб уникнути аварій. Ключ у поєднанні швидкості і безпеки, як у сучасних автомобілях або системі ABS, де технологічне вдосконалення запобігає ризикам різкого гальмування у паніці.

Яка легітимність у нас для впровадження європейських регуляцій?

Ідеально було б досягти глобальної угоди щодо етичних, політичних і демократичних стандартів, але у нас різні культури. Як і у випадку з кліматичними змінами, ми знаємо, що це терміново, але рухаємося частковими угодами. Проте європейські стандарти впливають на інших акторів. Крім того, ШІ і екологія перетинаються, оскільки енергоспоживання цієї технології величезне і вже входить до міжнародної кліматичної програми.

Що означає, що регулювання ШІ формулюють не нативні цифрові особи, з іншим сприйняттям ризиків і вигод, ніж у нових поколінь?

Цифрова трансформація — це не лише цифровізація адміністрацій, а й трансформація суспільства в цілому. І така масштабна трансформація має бути демократичною і інклюзивною, відкривати дискусії, дозволяти критику і враховувати поколінні, економічні, географічні і культурні різниці. Не можна керувати цим, ігноруючи різноманітність: цифрові нативи, літні, мігранти, мешканці сільської місцевості… Це іспит на зрілість: чи створимо інклюзивну технологію, чи дозволимо їй ділити і вигнати? Ми повинні уникнути, щоб цифровізація стала інструментом виключення, як це було з екологічним переходом під час протестів жовтих жилетів у Франції.

У «Епосі реваншу» Андреа Ріцці пропонує створити глобальний орган для управління ШІ, як МАГАТЕ у ядерній енергетиці. Як це зробити у контексті недовіри?

Ми живемо у цій епосі, і глобальні інституції ставляться під сумнів через ідеологічні або геостратегічні мотиви. Переважає логіка «хто виживе, той і правий» і гра з нульовою сумою, що ускладнює міцне міжнародне управління. Сьогодні модель win-win або відсутня, або не передбачається. У цьому контексті пандемія мала двоякі ефекти. З одного боку, вона сприяла кооперативній відповіді в Європі, запроваджуючи механізми солідарності, як фонди Next Generation, що були неможливі у 2008 році. З іншого — поглибила нерівності, наприклад, онлайн-освіта виключила учнів із шкільного середовища і спричинила відчуття вразливості і соціальної роздратованості, що підживлює недовіру до влад, мігрантів і інших країн, і це сприяє появі певних екстремізмів сьогодні.

Які наслідки цієї недовіри?

Зараз громадськість має більш критичне мислення, що можна вважати демократичним здобутком. Однак я вважаю, що ідея прозорості переоцінена, і наша візуальна культура помилково вважає, що бачити — означає розуміти. У противагу прозорості — розумінню, яке полягає у здатності пояснювати: недостатньо просто показати, потрібно зробити зрозумілим, бо сучасні технологічні системи настільки складні, що їх можна правильно оцінити лише через надійні публічні інституції посередництва.

Як ми боремося з алгоритмами, що сприяють поляризації і дезінформації?

Ми переходимо від екосистеми з малою кількістю джерел інформації до багатої, де головне — відрізнити надійне. Ця багатогранність, корисна і демократична, спотворюється соціальними мережами з алгоритмами, що сприяють екстремізму, поляризації, скандалам і карають поміркованість. Однак алгоритми можна регулювати для сприяння динамікам, сумісним із демократичною культурою, як це робить ЄС.

Як ми вирішуємо конфлікт між ШІ і авторським правом?

Європа лідирує у регулюванні авторських прав і приватності, але баланс є складним. Значна частина людської творчості полягає у переробці чужої, ми не такі креативні, як думаємо. Йдеться не про виправдання плагіату, існують очевидні межі, але у багатьох випадках важко визначити, що є оригінальним, а що повторюваним, бо ми живемо у культурі з багатьма банальними або формульними продуктами — наприклад, сценаріями серіалів або бестселерами.

ШІ революціонізує галузі, як медицина, але освіта відстає. Що б ви сказали, загалом, вчителям і викладачам, як ви?

У сферах, як медицина (або право), дуже очевидний розрив між тим, що очікує суспільство, і навчанням, яке є запам’ятовувальним, повторюваним і маловиразним. Хоча у сфері здоров’я і правосуддя ми рідко експериментуємо, потрібна більш цілісна освіта.

Загалом, я б сказав вчителям, що ми вже не лише передавачі інформації. З появою Google ця функція стала банальною, студенти вже не потребують нас для пошуку даних. Що ми можемо їм запропонувати такого, чого вони не знайдуть самі?: допомогти сформулювати правильні питання — бо пошук не є легким або спонтанним — і навчити їх справді знаходити те, що шукають. Google конкурує з нами лише у зборі інформації, а не у найкреативнішому навчанні.

Джерело: Асер Г. Рада / Агенція SINC / CC By

Фотографія: Хуанто Егана / CC By-sa