Daniel Innerarity: „Ključno je hraniti veštačku inteligenciju većom raznolikošću“

Daniel Innerarity, jedan od najistaknutijih španskih mislilaca u savremenom svetu, postavlja u svojoj poslednjoj knjizi potrebu da „hranimo veštačku inteligenciju sa više raznolikosti“ kako se ne bi pretvorila u instrument isključivanja.

Innerarity (Bilbao, 1959), profesor političke i društvene filozofije, istraživač Ikerbasque na Univerzitetu u Baskiji, iznosi ove ideje u Kritičkoj teoriji veštačke inteligencije (Galaxia Gutenberg, 2025).

I uz proširenje raznolikosti izvora koji hrane ove nove sisteme, profesor dodaje još jednu ideju: potrebu za „nadzorom ljudske interakcije kako bi se osigurala njena kompatibilnost sa demokratskim vrednostima“.

U ovom intervjuu razgovara o ovoj novoj knjizi, koja je nagrađena III Nagradom za esej Eugenio Trías. Na naslovnici, galeb na oštećenoj ogradi naspram mora sugeriše, suprotno očekivanjima, drugi način gledanja na tehnološku revoluciju.

Zašto ova naslovnica i ova knjiga?

Nisam želeo tipičnu sliku u plavim tonovima, povezanu sa eteričnim i oblacima, jer shvatam veštačku inteligenciju na materijalniji način, u kontrastu sa ljudskim telom. Fotografija, delimično retuširana pomoću AI, igra se s tom idejom: mašina bi interpretirala da je šipka savijena pod težinom galeba, dok mi ljudi odmah razumemo šalu. To je metafora o razlikama između naše intuicije i obrade podataka od strane AI.

Napisao sam ovu knjigu da bi se razumelo šta je u igri. Ima mnogo histerije oko tehnologije, sa preteranim očekivanjima tehnološkog rešenja. Silicijumska dolina želi da verujemo da će tehnologija, a ne demokratska deliberacija, rešiti velike probleme. Takođe postoji preterani panični strah koji nije u skladu sa stvarnim rizicima ni našim mogućnostima da ih prevaziđemo. AI ne nameće put, otvara više mogućnosti, kao što je i trenutni istorijski, politički i geostrateški kontekst. Nije zapisano da će ovo završiti loše ili da će tehnologija smanjiti našu slobodu, može imati emancipatorski potencijal.

Da li je ‘tehnološko rešenje’ ideologija digitalne ere?

To je ideologija određenih velikih preduzetnika u digitalnom svetu, pojačana spektakularnim tehnološkim razvojem. Svaki dan se pojavljuju obećavajuće ili zabrinjavajuće vesti: juče, žena je povratila govor zahvaljujući AI; danas, prevodioci protestuju da njihovi poslovi ne hrane ove sisteme. Ovaj karusel napretka i sukoba izaziva zapanjenost.

Koja je uloga političke odluke u algoritamskoj demokratiji, s obzirom na to da AI utiče na debatu i donošenje odluka?

Proces donošenja odluka u AI uključuje dizajn, podatke i interakciju sa korisnicima, a ključ je u tome kada, kako i zašto treba da intervenišu ljudi. Nedostatak raznolikosti kod onih koji dizajniraju ove sisteme, posebno mali broj žena, može izazvati pristrasnosti. Primer je prepoznavanje lica koje je zbunilo crnkinje sa orangutanima zbog treniranja sa pristrasnim skupovima slika, uglavnom belih muškaraca. Ključno je hraniti AI sa više raznolikosti, kao što to čini Španija sa AI na španskom i drugim jezicima [ALIA], nasuprot trenutnom anglo-centričnom pristupu, i nadgledati ljudsku interakciju kako bi se osigurala njena kompatibilnost sa demokratskim vrednostima, kao što to rade Algorithm Watch i AESIA (Španska agencija za nadzor AI).

Zašto nije poželjno da AI bude isto što i čovek? Možemo li je kontrolisati?

U avijaciji, braća Wright su pokazala da, umesto da imitiraju ptice, treba proučavati aerodinamiku. Isto važi za AI: umesto da oponaša ljudsku inteligenciju, treba iskoristiti njenu računarsku moć i upravljanje velikim količinama podataka. Dobro funkcioniše u kontekstima sa jasnim podacima i binarnim rešenjima, ali u složenim ili dvosmislenim problemima, ljudi i dalje ostaju nezamenljivi.

Nismo pronašli odgovarajući koncept kontrole za AI: ili ostavljamo previše prostora, čime ugrožavamo vrednosti, ili primenjujemo preveliku kontrolu koja usporava učenje. Evropski akt o AI ide u pravom smeru, ali je i dalje generički. To je kao 1868. godine u Velikoj Britaniji, kada je bilo zahtevano da osoba ide ispred automobila sa crvenom zastavom da bi se izbegle nesreće. Ključ je u kombinovanju brzine i sigurnosti, kao kod modernih automobila ili ABS sistema, gde tehnološko poboljšanje sprečava opasnost od naglog kočenja u panici.

Koje je naše pravo da namećemo evropski regulatorni okvir?

Idealno bi bilo postići globalni dogovor o etičkim, političkim i demokratskim standardima, ali imamo različite kulture. Kao i kod klimatskih promena, znamo da je hitno, ali se napreduje putem parcijalnih sporazuma. Međutim, evropski standardi utiču na druge aktere. Osim toga, AI i ekologija se prepliću jer je potrošnja energije ove tehnologije ogromna i već je deo međunarodne klimatske agende.

Šta podrazumeva da regulative za AI formulišu ljudi koji nisu digitalni nativni, sa drugačijom percepcijom rizika i koristi od onih koje imaju nove generacije?

Digitalna transformacija ne sastoji se samo od digitalizacije administracija, već i od transformacije društva u celini. Takva transformacija mora biti demokratska i inkluzivna, otvorena za debate, kritiku i uzimanje u obzir generacijskih, ekonomskih, geografskih i kulturnih razlika. Ne može se upravljati ignorisanjem raznolikosti: digitalni nativni, stariji, migranti, stanovnici ruralnih područja… To je test hrabrosti, hoćemo li razviti inkluzivnu tehnologiju ili ćemo dozvoliti da podeli i istisne? Moramo sprečiti da digitalizacija postane alat isključivanja, kao što je to bilo sa ekološkom tranzicijom tokom protesta žutih prsluka u Francuskoj.

U knjizi *Vreme osvete*, Andrea Rizzi predlaže globalni organ za upravljanje AI, poput OIEA u nuklearnoj energiji. Kako to učiniti u kontekstu nepovjerenja?

Živimo u toj eri, a međunarodne institucije su dovedene u pitanje iz ideoloških ili geostrateških razloga. Prevladava logika „spasi se ko može“ i igre sa nula dobitka, što otežava snažnu međunarodnu upravu. Danas, model „win-win“ ni ne postoji, ni ne očekuje se. U tom kontekstu, pandemija je imala ambivalentne efekte. Sa jedne strane, podstakla je koordinisani odgovor u Evropi, pokrenula mehanizme solidarnosti poput fondova Next Generation, nezamislivih 2008. godine. Sa druge strane, produbila je nejednakosti, kao što je online obrazovanje, koje je isključilo učenike iz školskog okruženja, i izazvala osećaj ranjivosti i društvene iritacije, hraneći nepovjerenje prema vlastima, migrantima i drugim zemljama, što je dovelo do određenih ekstremizama danas.

Koje su posledice tog nepovjerenja?

Sada građani imaju veći kritički osećaj, što se može smatrati napretkom demokratije. Međutim, smatram da je ideja transparentnosti precenjena i da naša vizuelna kultura pogrešno pretpostavlja da gledanje podrazumeva razumevanje. Nasuprot transparentnosti – shvaćenoj kao jednostavno „gledanje u crnu kutiju“ – predlažem fokus na objašnjivost: nije dovoljno samo pokazati, već treba učiniti razumljivim, jer su trenutni tehnološki sistemi toliko složeni da se mogu pravilno proceniti samo putem pouzdanih javnih institucija posredovanja.

Kako se suočavamo sa algoritmima koji favorizuju polarizaciju i dezinformacije?

Prelazimo iz ekosistema sa malo izvora informacija u onaj sa mnogo, gde je izazov razlikovanje pouzdanih. Ova obilje, korisna i demokratska, narušava se putem društvenih mreža sa algoritmima koji favorizuju ekstremizam, polarizaciju, šokantno i kažnjavaju umerenost. Međutim, algoritmi se mogu regulisati kako bi se promovisale dinamičke koje su kompatibilne sa demokratskom kulturom, kao što to radi EU.

Kako rešavamo sukob između AI i autorskih prava?

Evropa prednjači u regulativi autorskih prava i privatnosti, ali balans je složen. Veliki deo ljudske kreativnosti sastoji se u rekonstrukciji tuđe kreativnosti, nismo toliko kreativni koliko mislimo. Nije u pitanju opravdavanje plagijata, postoje očigledne granice, ali u drugim slučajevima nije lako odrediti šta je originalno, a šta ponovljeno, delom zato što živimo u kulturi sa mnogo banalnih ili formulisano baziranih na neoriginalnim šablonima proizvoda – kao što su serije ili bestseleri.

Veštačka inteligencija revolucioniše oblasti poput medicine, ali obrazovanje kasni. Šta biste, uopšteno, rekli nastavnicima i profesorima, kao što ste vi?

U oblastima poput medicine (ili prava), veoma je očigledan jaz između očekivanja društva i memorističkog, ponavljajućeg i malo kreativnog obrazovanja. Iako u zdravstvu i pravosuđu retko eksperimentišemo, potrebna je holističkija obuka.

Uopšteno, nastavnicima bih rekao da više nismo samo prenosioci informacija. Od kada postoji Google, ta funkcija je postala banalna, učenici nas više ne trebaju da bi pronašli podatke. Šta možemo da im pružimo što oni sami ne mogu pronaći?: možemo im pomoći da formulišu prava pitanja – jer traženje nije lako ili spontano – i naučiti ih da zaista pronađu ono što traže. Google se takmiči s nama samo u prikupljanju informacija, a ne u najkreativnijem delu podučavanja.

Izvor: Aser G. Rada / Agencija SINC / CC By

Fotografija: Juantxo Egaña / CC By-sa