Daniel Innerarity: "Ključno je hraniti umjetnu inteligenciju s više raznolikosti"

Daniel Innerarity, jedan od najistaknutijih španjolskih mislilaca u suvremenom svijetu, postavlja u svojoj posljednjoj knjizi potrebu za “hranjenjem AI-a većom raznolikošću” kako se ne bi pretvorila u instrument isključivosti.

Innerarity (Bilbao, 1959.), profesor političke i društvene filozofije, istraživač Ikerbasque na Sveučilištu u Baskiji, iznosi ove ideje u Kritičkoj teoriji umjetne inteligencije (Galaxia Gutenberg, 2025).

I uz proširenje raznolikosti izvora koji hrane ove nove sustave, profesor dodaje još jednu ideju: potrebu za “nadgledanjem ljudske interakcije kako bi se osigurala njezina kompatibilnost s demokratskim vrijednostima”.

U ovom intervjuu razgovara o toj novoj knjizi, koja je nagrađena III Nagradom za esej Eugenio Trías. Na naslovnici, galeb na preklopljenom ogradi nasuprot moru sugerira, protiv očekivanja, drugi način gledanja na tehnološku revoluciju.

Zašto ova naslovnica i ova knjiga?

Nisam želio tipičnu sliku u plavim tonovima, povezanu s eteričnim i oblacima, jer shvaćam umjetnu inteligenciju na materijalniji način, u kontrastu s ljudskim tijelom. Fotografija, djelomično dotjerana AI-jem, igra s tom idejom: stroj bi interpretirao da je šipka savijena pod težinom galeba, dok mi ljudi odmah razumijemo šalu. To je metafora o razlikama između naše intuicije i obrade AI-ja.

Napisao sam ovu knjigu da bi se razumjelo što je na kocki. Postoji mnogo histerije oko tehnologije, s pretjeranim očekivanjima tehnološkog rješenja. Silicon Valley želi da vjerujemo da će tehnologija, a ne demokratska rasprava, riješiti velike probleme. Postoji i pretjerana panika koja nije usklađena s realnim rizicima niti s našim mogućnostima da ih prevladamo. AI ne nameće put, otvara više mogućnosti, kao što je i trenutni povijesni, politički i geostrateški kontekst. Nije zapisano da će ovo završiti loše niti da će tehnologija smanjiti našu slobodu, ona može imati emancipatorski potencijal.

Je li ‘tehnološko rješenje’ ideologija digitalnog doba?

To je ideologija određenih velikih poduzetnika u digitalnom svijetu, pojačana spektakularnim tehnološkim razvojem. Svaki dan pojavljuju se obećavajuće ili zabrinjavajuće vijesti: jučer je žena povratila govor zahvaljujući AI-ju; danas, prevoditelji protestiraju kako njihovi poslovi ne bi hranili te sustave. Ovaj val napretka i sukoba izaziva zbunjenost.

Koja je uloga političke odluke u algoritamskoj demokraciji, s obzirom na to da AI uvjetuje i raspravu i donošenje odluka?

Proces donošenja odluka u AI uključuje dizajn, podatke i interakciju s korisnicima, a ključ je u tome kada, kako i zašto trebaju intervenirati ljudi. Nedostatak raznolikosti kod dizajnera ovih sustava, posebno nedostatak ženskog sudjelovanja, može izazvati pristranosti. Primjer je prepoznavanje lica koje je zbunilo crne žene s orangutanima zbog treniranja s pristranim skupovima slika, uglavnom bijelih muškaraca. Ključno je hraniti AI većom raznolikošću, kao što to čini Španjolska s AI-jem na španjolskom i jezicima koji su u službenoj uporabi [ALIA], nasuprot trenutnom anglocentrizmu, te nadzirati ljudsku interakciju kako bi se osigurala njezina kompatibilnost s demokratskim vrijednostima, kao što to čine Algorithm Watch i AESIA (Španjolska agencija za nadzor AI).

Zašto nije poželjno da AI bude jednaka čovjeku? Možemo li je kontrolirati?

U zrakoplovstvu su braća Wright dokazala da, umjesto da oponašaju ptice, treba proučavati aerodinamiku. Isto vrijedi za AI: umjesto da replicira ljudsku inteligenciju, treba iskoristiti njezinu računalnu snagu i upravljanje velikim količinama podataka. Dobro funkcionira u kontekstima s jasnim podacima i binarnim rješenjima, ali u složenim ili dvosmislenim problemima, ljudi i dalje ostaju nezamjenjivi.

Nismo pronašli prikladan koncept kontrole za AI: ili ostavljamo prevelik prostor, riskirajući vrijednosti, ili primjenjujemo preveliku kontrolu koja usporava njezino učenje. Europski zakon o AI ide u pravom smjeru, ali je još uvijek općenit. Kao u 1868., kada je u Ujedinjenom Kraljevstvu zahtijevano da osoba hoda ispred automobila s crvenom zastavom kako bi spriječila nesreće. Ključ je u kombinaciji brzine i sigurnosti, kao kod modernih automobila ili ABS-a, gdje tehnološko poboljšanje sprječava opasnost od naglog kočenja u panici.

Koje je naše legitimitet za nametanje europskog regulatornog okvira?

Idealno bi bilo postići globalni dogovor o etičkim, političkim i demokratskim standardima, ali imamo različite kulture. Kao i kod klimatskih promjena, znamo da je hitno, ali se napreduje putem parcijalnih sporazuma. Međutim, europski standardi utječu na druge aktere. Osim toga, AI i ekologija se prepliću jer je energetska potrošnja ove tehnologije ogromna i već je dio međunarodnog klimatskog agende.

Što znači da regulacije AI donose osobe koje nisu digitalni izvori, s različitim percepcijama rizika i koristi od onih koje imaju nove generacije?

Digitalna transformacija ne sastoji se samo od digitalizacije administracija, već od transformacije društva u cjelini. Takva transformacija mora biti demokratska i uključiva, otvoriti rasprave, omogućiti kritiku i uzeti u obzir generacijske, ekonomske, geografske i kulturne razlike. Ne može se upravljati ignoriranjem raznolikosti: digitalni izvori, stariji, migranti, stanovnici ruralnih područja… To je test hrabrosti, hoćemo li razviti uključivu tehnologiju ili ćemo dopustiti da dijeli i isključuje? Moramo spriječiti da digitalizacija postane alat isključivosti, kao što je to bilo s ekološkom tranzicijom u prosvjedima žutih prsluka u Francuskoj.

U knjizi "Era revanša" Andrea Rizzi predlaže globalni organ za upravljanje AI-jem, poput OIEA u nuklearnoj energiji. Kako to učiniti u kontekstu nepovjerenja?

Živimo u toj eri, a globalne institucije su dovedene u pitanje iz ideoloških ili geostrateških razloga. Prevladava logika "spasi se tko može" i nula-suma igre, što otežava snažnu međunarodnu upravu. Danas, model win-win ni ne postoji, ni se ne očekuje. U tom smislu, pandemija je imala ambivalentne učinke. U pozitivnom smislu, potaknula je suradnički odgovor u Europi, promovirajući mehanizme solidarnosti poput fondova Next Generation, nezamislivih 2008. godine. U negativnom, produbila je nejednakosti, poput online obrazovanja, koje je isključilo učenike iz školskog okruženja, te izazvala osjećaj ranjivosti i društvene iritacije, hraneći nepovjerenje prema vlastima, migrantima i drugim zemljama, što je danas prisutno kod određenih ekstremista.

Koje su posljedice tog nepovjerenja?

Sada građani imaju veći kritički osjećaj, što se može smatrati demokratskim napretkom. Međutim, smatram da je ideja transparentnosti precijenjena i da naša vizualna kultura pogrešno pretpostavlja da gledanje podrazumijeva razumijevanje. Suprotno tome, predlažem da se usredotočimo na objašnjivost: nije dovoljno samo pokazati, već treba učiniti razumljivim, jer su trenutačni tehnološki sustavi toliko složeni da se mogu pravilno procijeniti samo putem pouzdanih javnih institucija posredovanja.

Kako se nosimo s algoritmima koji favoriziraju polarizaciju i dezinformacije?

Prelazimo s ekosustava s malo izvora informacija na onaj s mnogo, gdje je izazov razlikovati pouzdano. Ova obilje, korisna i demokratska, iskrivljuje se putem društvenih mreža s algoritmima koji favoriziraju ekstremizam, polarizaciju, šokantno i kažnjavaju umjerenost. No, algoritme je moguće regulirati kako bi se promovirale dinamike kompatibilne s demokratskom kulturom, kao što to čini EU.

Kako rješavamo sukob između AI-ja i autorskih prava?

Europa prednjači u regulaciji autorskih prava i privatnosti, ali ravnoteža je složena. Velik dio ljudske kreativnosti sastoji se u preoblikovanju tuđe kreativnosti, nismo toliko kreativni koliko mislimo. Nije riječ o opravdavanju plagijata, postoje očite granice, ali u drugim slučajevima nije lako odrediti što je originalno, a što ponovljivo, dijelom zato što živimo u kulturi s mnogo proizvoda – poput scenarija serija ili bestselera – banalnih ili temeljenih na neoriginalnim formulama.

AI revolucionira područja poput medicine, ali obrazovanje kasni. Što biste, općenito, rekli učiteljima i profesorima, poput vas?

U područjima poput medicine (ili prava) vrlo je očigledan jaz između onoga što društvo očekuje i memorističkog, ponavljajućeg i malo kreativnog obrazovanja. Iako u zdravstvu i pravosuđu rijetko eksperimentiramo, potrebna je holističkija obuka.

Uopće, učiteljima bih rekao da više nismo samo prenosioci informacija. Otkako postoji Google, ta funkcija postala je banalna, učenici nas više ne trebaju za pronalaženje podataka. Što im možemo pružiti što ne mogu pronaći sami?: možemo im pomoći da formiraju pravila za postavljanje pravih pitanja – jer traženje nije lako ili spontano – i naučiti ih da zaista pronađu ono što traže. Google s nama konkurira samo u prikupljanju informacija, a ne u najkreativnijem dijelu podučavanja.

Izvor: Aser G. Rada / Agencija SINC / CC By

Fotografija: Juantxo Egaña / CC By-sa