Daniel Innerarity: „Létfontosságú, hogy a mesterséges intelligenciát nagyobb sokféleséggel tápláljuk”

Daniel Innerarity, az egyik legkiemelkedőbb spanyol gondolkodó a kortárs világban, legújabb könyvében felveti az „több sokféleséggel táplálni az MI-t”, hogy ne váljon kizáró eszközzé.

Innerarity (Bilbao, 1959), politikai és társadalmi filozófia professzor, kutató az Ikerbasque-nál a Baszkföldi Egyetemen, ezeket az ötleteket veti fel a Az intelligencia mesterséges kritikája (Galaxia Gutenberg, 2025) című művében.

És a források sokféleségének bővítése mellett, amelyek ezeket az új rendszereket táplálják, a professzor egy másik ötletet is hozzátesz: az „emberi interakció felügyeletének szükségességét”, hogy biztosítsa azok összhangját a demokratikus értékekkel.

Ebben az interjúban beszél erről az új könyvről, amelyet az Eugenio Trías esszé-díj harmadik helyezettjéért díjaztak. A címlapon egy sirály látható egy hullámvasúti korláton, amely a tenger előtt hajlik, és ez, a várakozásokkal ellentétben, egy másik módját sugallja a technológiai forradalom szemlélésének.

Miért ez a címlap és ez a könyv?

Nem akartam a tipikus kék árnyalatú képet, amely az éteri és a felhőkhöz kötött, mert az intelligencia mesterségeset inkább anyagiasabban képzelem el, ellentétben az emberi testtel. A kép, amelyet egy kicsit retusáltak MI-vel, játszik ezzel az ötlettel: egy gép úgy értelmezné, hogy a sávot a sirály súlya hajlította meg, míg az emberek azonnal értjük a viccet. Ez egy metafora a megérzéseink és az MI feldolgozása közötti különbségekről.

Azért írtam ezt a könyvet, hogy megértsük, mi van a tétben. Sok hiszti van a technológia körül, túlzó elvárásokkal a technosoluciók iránt. A Szilícium-völgy azt akarja, hogy higgyük, a technológia, nem pedig a demokratikus döntéshozatal fogja megoldani a nagy problémákat. Emellett túlzó pánik is van, amely nem igazodik a valódi kockázatokhoz vagy lehetőségeinkhez. Az MI nem írja elő az utat, több lehetőséget nyit meg, mint például a jelenlegi történelmi, politikai és geostratégiai kontextus. Nem írják elő, hogy ez rosszul végződjön, vagy hogy a technológia csökkentse szabadságunkat, lehet emancipációs potenciálja is.

A ‘technosolutionizmus’ a digitális korszak ideológiája?

Ez bizonyos nagy digitális vállalkozók ideológiája, amelyet a lenyűgöző technológiai fejlődés erősít. Minden nap ígéretes vagy aggasztó hírek jelennek meg: tegnap egy nő visszanyerte a beszédet MI segítségével; ma a fordítók tiltakoznak, hogy munkáik ne táplálják ezeket a rendszereket. Ez a fejlődés és konfliktusok forgataga csodálkozást vált ki.

Mi a politikai döntés szerepe egy algoritmikus demokráciában, figyelembe véve, hogy az MI befolyásolja a vitát és a döntéshozatalt?

Az MI-ben a döntéshozatal folyamatába beletartozik a tervezés, az adatok és a felhasználókkal való interakció, és a kulcs az, hogy mikor, hogyan és miért kell beavatkozni az embereknek. Az, hogy kik tervezik ezeket a rendszereket, különösen a nők alacsony száma, torzításokat okozhat. Például az arcfelismerés, amely fekete nőket orangutánként azonosított, mert torzított tanítási adatokkal tanították, többnyire fehér férfiak képeivel. Fontos, hogy többféleséggel tápláljuk az MI-t, ahogyan Spanyolország teszi a spanyol és az egyéb hivatalos nyelvű MI-vel [ALIA], szemben a jelenlegi anglocentrizmussal, és felügyeljük az emberi interakciót, hogy biztosítsuk azok összhangját a demokratikus értékekkel, ahogyan ezt teszik Algorithm Watch és az AESIA (Spanyol MI Felügyeleti Ügynökség).

Miért nem kívánatos, hogy az MI ugyanolyan legyen, mint az emberi? Tudjuk-e kontrollálni?

A repülésben a Wright testvérek bebizonyították, hogy a madarak utánzás helyett a légdinamikát kell tanulmányozni. Így van ez az MI-vel is: nem az emberi intelligenciát kell másolni, hanem ki kell használni a számítási képességét és a nagy adatmennyiség kezelését. Jól működik tiszta adatok és bináris megoldások esetén, de összetett vagy bizonytalan problémákban az emberek pótolhatatlanok maradnak.

Nem találtunk megfelelő kontrollfogalmat az MI-re: vagy túl nagy mozgásteret hagyunk, veszélyeztetve az értékeket, vagy túl szigorú kontrollt alkalmazunk, ami megállítja a tanulását. Az Európai MI-törvény jó irányba halad, de még általános. Olyan, mint 1868-ban, amikor az Egyesült Királyságban kötelező volt, hogy egy személy egy piros zászlóval menjen az autó előtt, hogy elkerüljék a baleseteket. A kulcs a sebesség és a biztonság ötvözése, mint a modern autóknál vagy az ABS-nél, ahol a technológia fejlesztése elkerüli a hirtelen fékezés kockázatait pánikhelyzetben.

Milyen jogalapunk van az európai szabályozás megkövetelésére?

Ideális esetben globális egyezségre kellene jutni etikai, politikai és demokratikus normákban, de különböző kultúrák vannak. Ahogyan a klímaváltozásnál, tudjuk, hogy sürgős, de csak részleges megállapodásokkal haladunk. Az európai normák ugyanakkor befolyásolják más szereplőket is. Emellett az MI és a környezetvédelem összefonódik, mert ennek a technológiának az energiafogyasztása óriási, és már része a nemzetközi klímaügyeknek.

Mit jelent, hogy az MI szabályozását nem digitális bennszülöttek, hanem más szemléletű személyek alakítják, akik másképp látják a kockázatokat és az előnyöket, mint az új generációk?

A digitális átalakulás nemcsak az adminisztráció digitalizálását jelenti, hanem a társadalom egészének átalakítását. És ilyen mértékű változás demokratikus és inkluzív kell legyen, nyitott vitákat, kritikát, valamint generációs, gazdasági, földrajzi és kulturális különbségek figyelembevételét. Nem lehet a sokféleség figyelmen kívül hagyásával irányítani: digitális bennszülöttek, idősek, migránsok, vidéki lakosok… Ez egy próbája lesz annak, hogy fejlesztünk-e inkluzív technológiát, vagy hagyjuk, hogy szétválasszon és kirekesszen? El kell kerülni, hogy a digitalizáció kizáró eszközzé váljon, mint ahogy a zöld átmenet során Franciaországban a sárga mellényesek tiltakozásai mutatták.

A Revanche korszakában Andrea Rizzi egy globális szervezetet javasol az MI irányítására, mint az OIEA a nukleáris energiában. Hogyan lehet ezt megvalósítani bizalmatlanság idején?

Ebben az időszakban élünk, és a globális intézményeket ideológiai vagy geostratégiai okok miatt kérdőjelezik meg. A „ki meneküljön meg” logika és a nullszaldós játékok dominálnak, ami megnehezíti egy erős nemzetközi irányítást. Ma a win-win modell nincs jelen, vagy nem várható. A járvány ebben a tekintetben ambivalens hatásokat hozott: pozitívumként a kooperatív válaszokat Európában, például a Next Generation alapokat, amelyek 2008-ban elképzelhetetlenek lettek volna. Negatívumként pedig a növekvő egyenlőtlenségeket, például az online oktatást, amely kizárta a diákokat az iskolai környezetből, és érzékenyítette a társadalmat, növelve a bizalmatlanságot az intézmények, migránsok és más országok iránt, ami bizonyos szélsőséges csoportokat ma is jellemez.

Milyen következményei vannak ennek a bizalmatlanságnak?

Most a polgárok kritikusabbak, ami demokratikus fejlődésként értelmezhető. Ugyanakkor szerintem a transzparencia fogalma túlértékelt, és vizuális kultúránk tévesen feltételezi, hogy a látás egyenlő a megértéssel. A transzparencia – mint egyszerűen „látni a fekete dobozon belül” – helyett a magyarázhatóságra helyezném a hangsúlyt: nem elég csak mutatni, érthetővé kell tenni, mert a jelenlegi technológiai rendszerek olyan összetettek, hogy csak megbízható közintézményeken keresztül lehet őket megfelelően értékelni.

Hogyan kezeljük azokat az algoritmusokat, amelyek polarizációt és dezinformációt támogatnak?

Átmenet van egy kevés forrásból álló ökoszisztémából egy sokkal gazdagabbba, ahol a kihívás a megbízható források kiválasztása. Ez a bőség, ami demokratikus és hasznos, torzul a közösségi médiákban, ahol az algoritmusok az extremizmust, a polarizációt, a botrányos dolgokat támogatják, és a mérsékeltséget büntetik. Az algoritmusokat azonban lehet szabályozni, hogy olyan dinamikákat támogassanak, amelyek összhangban vannak a demokratikus kultúrával, ahogyan az az EU-ban is történik.

Hogyan kezeljük az MI és a szerzői jogok közötti konfliktust?

Európa vezet a szerzői jogok és az adatvédelem szabályozásában, de az egyensúly bonyolult. A humán kreativitás nagy része mások kreativitásának újraalkotásából áll, nem vagyunk olyan kreatívak, mint gondolnánk. Nem arról van szó, hogy a plágiumot igazoljuk, vannak nyilvánvaló határok, de más esetekben nehéz meghatározni, mi az eredeti és mi a másolat, mivel sok termék – például sorozatszkriptek vagy bestseller-ek – banálisak vagy kevés eredetiségen alapulnak.

A MI forradalmasít olyan területeket, mint az orvoslás, de a képzés késésben van. Mit mondana általánosságban a tanároknak és oktatóknak, mint Ön?

Az olyan területeken, mint az orvoslás (vagy a jog), nyilvánvaló a különbség a társadalmi elvárások és a memorizáló, ismétlődő, kevés kreativitást igénylő képzés között. Bár az egészségügyben és a jogban nem szoktunk kísérletezni, egy holisztikusabb képzésre lenne szükség.

Általánosságban a tanároknak azt mondanám, hogy már nem csupán az információ átadására vagyunk hivatottak. Mióta létezik a Google, ez a szerep értelmetlenné vált, a diákok már nem szükségszerűen minket keresnek az adatokért. Mit adhatunk nekik, amit saját maguk nem találnának meg?: segíthetünk nekik megfogalmazni a megfelelő kérdéseket – mert a keresés nem könnyű vagy spontán dolog –, és megtanítani nekik valóban megtalálni, amit keresnek. A Google csak az információgyűjtésben versenyez velünk, nem a legkreatívabb oktatási módszerekben.

Forrás: Aser G. Rada / SINC Ügynökség / CC By

Fotó: Juantxo Egaña / CC By-sa