Obaranje carstva veštačke inteligencije

Mientras la competencia tecnocrática-autoritária pelo desarrollo de tecnologías de inteligencia artificial avanzada continúa a toda velocidad, la influencia de Silicon Valley en las agendas regulatorias ya rivaliza – e incluso supera – a la de muchos países. Sin embargo, entre las superpotencias globales y los gigantes de la IA, Europa tiene la oportunidad de buscar algo mejor. Entrevista con la galardonada periodista y escritora Karen Hao.

Alessio Giussani: Mnoge metafore su korišćene za opisivanje trenutnog modela razvoja veštačke inteligencije – na primer, papagaja ili ogledala. Zašto ste baš odabrali metaforu carstva?

Karen Hao: Mislim da su te metafore izuzetno korisne. Fokusiram se na „carstvo“ jer ne proučavam samo tehnički alat i šta se dešava kada se on primeni u društvu, već i proizvodnju tehnologije, kao i one aktere koji akumuliraju izuzetnu ekonomsku i političku moć u njenom razvoju.

Razlog zašto ovo sistem nazivam carstvom je u četiri glavna razloga. Prvo, te kompanije zahtevaju resurse koji nisu njihovi: podatke pojedinaca, kao i radove pisaca i tvoraca. Drugo, izuzetno iskorišćavaju radnu snagu, kako radnike uključene u proizvodni proces i lance snabdevanja tehnologijama, tako i one čije radno pravo se narušava tokom uvođenja tehnologije.

Treći razlog je kontrola informacija. Jedna od glavnih osobina širenja carstava je sposobnost filtriranja svake proizvodnje znanja i informacija kroz njihove ciljeve, što rade i kompanije za veštačku inteligenciju. Oni kontrolišu i cenzurišu nauku finansijskim podrškom većini istraživanja u oblasti veštačke inteligencije i grade informacione tehnologije koje žele da pretvore u centralne portale, kroz koje se povezuje cela planeta, uključujući obrazovanje.

Na kraju, sve to prikrivaju u civilizacijsku misiju. tvrde da se bave ovim radom zato što na kraju žele da ljudstvu obezbede tehnologiju koja će nas podići u utopijski stan, a ako je razvijaju „zli momci“ – što obično označava Kinu – pre ili kasnije ćemo pasti u distopijski stan. To je vrsta religiozne narative, koja je bila česta i u starim carstvima.

Kako opisujete, MI-carstvo nije ograničeno na jednu kompaniju; to je sistem, logika. Šta stoji iza vaše pažnje prema OpenAI i njenom izvršnom direktoru, Samu Altmanu?

Jedan od odgovora je da ljudima treba priča koja pomaže da se konkretizuje ono što bi inače ostalo apstraktna ideja. Ali, OpenAI je posebno interesantan jer je doneo sve važne odluke koje su promenile industrijske norme i usmerile je ka izgradnji carstva. Oni su odlučili da se šire svim sredstvima, rade na velikim jezičkim modelima i kreiraju interfejse slične chatbotovima. Skoro sve što danas javnost povezuje sa veštačkom inteligencijom, prvo je odlučeno unutar zidina OpenAI.

Ako ispričamo ovu priču, biće mnogo jasnije da veštačka inteligencija nije neizbežna, jer shvatamo da su te odluke doneli pravi ljudi, na osnovu svojih vrednosti, svetonazora i lične osvete – bilo šta što je zapravo oblikovalo put razvoja veštačke inteligencije. Ideologije Sama Altmana ne prožimaju samo model u apstraktnom smislu. Često čujemo frazu da modeli odražavaju tvorce, ali želim da pokažem kako se to zaista dešava. Reč je o kompanijama, ljudima i ekonomskom i ideološkom okruženju u kojem oni učestvuju.

Kako, kako se tehnologije sve efikasnije, kontrola nad njihovom primenom postaje egzistencijalno pitanje. Videli smo da je Big Tech pokleknuo pred Trampom tokom njegove druge inauguracije, ali i da se izvršni direktori kompanija u oblasti veštačke inteligencije sve više sukobljavaju sa vladama. Čije će na kraju biti poslednja reč – države ili privatnih kompanija?

U toku je borba oko toga ko će doneti odluke. Smatram da je veza između Vašingtona i Silicijumske doline ugovorna, ali vrlo napeta. Predstavljaju dva različita carstva, sa sopstvenim planovima za širenje. Oba žele da preuzmu više područja od drugih zemalja, ali administracija Trampa vidi AI kompanije kao instrumente državnih imperijalnih težnji. U isto vreme, Silicijumska dolina vidi Trampovu administraciju kao instrument svojih imperijalnih težnji, ali u suštini nisu na istoj talasnoj dužini, jer oboje žele da oni budu najviši autoritet na vrhu.

Bilo je trenutaka kada je američka vlada pokazala da je i dalje ona gospodar – kada su Tramp i Musk došli u sukob, Muska su smenili. Međutim, kada je Ministarstvo odbrane u sukobu sa Anthropic-om, kompanija je pokazala da je u tom slučaju jači igrač: ministar odbrane Pete Hegseth je pomenuo „nuklearni opciju“, preteći da će kompaniju staviti na listu rizika u lancu snabdevanja – kao krajnju meru kojom bi naterali Anthropic na poslušnost, ali ni tada kompanija nije popustila. Neprijatno je što je Ministarstvo odbrane postalo zavisno od privatnog aktera koji ne želi da sarađuje po državnim uslovima, a država ne može ništa da učini.

Oba aktera carstva moraju biti odgovorna, a ta odgovornost ne može doći od njih samih; mora doći od naroda. Od dole prema gore, iz organizacija koje se formiraju širom sveta, uključujući i Sjedinjene Države. Koliko god da je ova ugovorna veza teška za razbijanje, ona je u suštini vrlo krhka, i postoje mogućnosti da se ubrza njen pad ako povećamo pritisak na njene slabe tačke.

Umesto da posmatramo veštačku inteligenciju kao globalnu konkurenciju dobra i zla, trebalo bi razmišljati o tome kakvu sliku o društvu želimo da imamo.

Trenutni razvoj veštačke inteligencije deluje kao takmičenje za dno između konkurentskih kompanija i globalnih supermoći. Kakvu ulogu je odigrala geopolitička konkurencija sa Kinom u tome da je veštačka inteligencija došla u ovu tešku poziciju?

Kina je karta koju Silicijumska dolina već igra već decenijama, praktično od trenutka kada su je protjerali iz Kine. Međutim, ako pogledamo ranije rezultate ove strategije, vidimo da je uvek bilo suprotno od onoga što su predviđali u Silicijumskoj dolini.

Tvrde da će nedostatak regulative u Silicijumskoj dolini – i kineske izvozne restrikcije – omogućiti američkoj tehnologiji da dominira svetom. Ipak, TikTok je najpopularnija platforma za društvene mreže, a kineski open-source modeli veštačke inteligencije postaju sve popularniji globalno, uključujući i SAD. Takođe su obećavali da će dominacija Silicijumske doline imati liberalizujući uticaj na svet, ali to se nije dogodilo; njihov uticaj je, naprotiv, bio duboko neliberalan. Došlo je do izuzetnog erozije demokratijskih institucija i ubrzanog nazadovanja demokratije, što su podržale platforme Silicijumske doline i tehnologije veštačke inteligencije.

Umesto da posmatramo veštačku inteligenciju kao globalnu konkurenciju dobra i zla, trebalo bi razmišljati o tome kakvu sliku o društvu želimo da imamo, koje tehnologije veštačke inteligencije bi podržale tu sliku, i koja su nam resursi potrebni za ostvarenje toga. Ne bismo trebali takmičiti se u trci koju je odredio Silicijumska dolina, već u onim idejama i vrednostima koje želimo sačuvati. I verujem da Evropi ovde postoji prilika da pokaže treći put svetu, koji je drugačiji od onoga SAD i Kine, i da postavi nove pravila.

Evropska komisija je nedavno usvojila paket za tehnološku suverenost, koji je deo napora da Evropa krene sopstvenim putem u tehnologiji. Kako da formulišemo tu sliku budućnosti tako da ne dobijemo evropsku verziju nadzorne, oligarhijske poslovne modela?

Vodeća zvezda koju Evropa treba da prati nije suverenitet radi suvereniteta, već cilj da ga ostvarimo. Evropa – ili bar veći deo nje – je jedna od poslednjih bastiona demokratije na svetu. Podržava ljudska prava i slobode, i mora imati tehnološki suverenitet da bi te vrednosti unapredila. Dok bude i dalje izuzetno zavisna od sistema koji se razvijaju na autoritaran način i koji žele da potkopaju evropsko društvo, neće moći da sačuva svoje vrednosti.

Koncept suvereniteta lako može da se zamuti ako ga počnemo shvatati kao samo sebi svrhu. Treba da bude sredstvo za postizanje cilja.

Od kojih koalicija, interesnih grupa ili konflikata treba da krenemo da bismo izgradili ovu alternativnu sliku budućnosti?

Prvo, moramo shvatiti upravljanje veštačkom inteligencijom u širem smislu. Na primer, jačanje prava radnika i zaštita civilnog društva su deo upravljanja veštačkom inteligencijom. I studenti, i nastavnici, i zdravstveni radnici moraju biti za stolom da pomognu oblikovati i preispitati kako se veštačka inteligencija razvija i primenjuje u društvu. Obrazovanje je ključno, kako kao sektor, tako i kao savez koji treba uključiti, i u društvenoj osvešćenosti o veštačkoj inteligenciji.

Još jedan važan aspekt je finansiranje istraživača i preduzetnika u oblasti veštačke inteligencije, da bi se otkrili tehnički detalji njihovog razvoja i načini primene. Ali, ne možemo im jednostavno dati novac bez da damo glas ostatku društva; u suprotnom, ponovo bismo ponovili probleme sa kojima se suočavamo u SAD, gde odluke donose tehnokrati ili tehnokonzervativci.

Ne počinjemo od nule. Već je urađeno mnogo posla na definisanju zajedničkih ciljeva kojima društvo treba da teži. Na primer, mislim na ciljeve održivog razvoja. To može biti polazna tačka za razmišljanje o tome kako finansirati inovacije u oblasti veštačke inteligencije.

Trenutne narative o tehnologijama veštačke inteligencije su izuzetno polarizovane. S jedne strane, oni koji tvrde da u tim tehnologijama nema ništa posebno novo i da će se balon uskoro ispuhati. S druge strane, oni koji smatraju da veštačka inteligencija menja naš život, revolucionizuje lance snabdevanja i čini sve nas suvišnima. Šta mislite o tim različitim stavovima?

Istina, mnogi su skloni preuveličavanju prednosti bez razmatranja troškova tehnologije, ili čak preuveličavajući troškove, a da ne vide koristi. Ali, mislim da je dovoljno veliki procenat onih koji se slažu da želimo da uživamo u prednostima veštačke inteligencije, ali ne po cenu našeg dostojanstvenog života – koji uključuje dobru zdravstvenu zaštitu, ekonomske mogućnosti, zdravu životnu sredinu i cvetajuću planetu. To je najbalansiraniji pristup.

Veštačka inteligencija (VI) je naziv za razne tehnologije, pa moramo pažljivo razmotriti u šta da ulažemo i koje nove tehnologije želimo da razvijamo, jer svaka od njih nosi različite kompromise; neke su u skladu sa budućnošću koju želimo da izgradimo, a neke nisu. Mudro je birati.

Veštačka inteligencija (VI) označava razne tehnologije, pa moramo pažljivo razmotriti u šta da ulažemo i koje nove tehnologije želimo da razvijamo.

Kakav je vaš odnos prema postojećim alatima veštačke inteligencije?

Ne koristim ih iz tri glavna razloga. Prvo, zbog svog etičkog stava. Drugo, zbog svog stava prema zaštiti privatnosti: proučavam te kompanije, a one su na kraju najefikasnije tehnologije nadzora ikada razvijene. Treće, ti alati nisu baš korisni za specifične veštine koje su mi potrebne za svoj rad.

Ne kažem da svi treba da rade isto. Sreo sam mnogo ljudi koji od ovih alata imaju koristi ili ih koriste kao deo svog profesionalnog rada. Bolje rešenje za trenutne probleme je da uradimo isto što smo radili u drugim industrijama, poput mode. Kada smo shvatili da se većina naših odeća proizvodi u užasnim uslovima, nismo samo odrekli odeće, već smo kroz organizacije potrošača, radne i vladine regulative i javno mnjenje, uspeli da ograničimo industriju. Naravno, moda još uvek nije savršena, ali postoje alternative, a potrošači mogu glasati novcem za podršku određenim lancima snabdevanja i poslovnim praksama.

Isto tako, moramo postupiti i sa veštačkom inteligencijom. Trenutno nema dovoljno alternativa za korisnike, i da bi se to promenilo, potrebne su veće radne organizacije i veći otpor javnosti. Oni koji mogu da se suzdrže od korišćenja ovih tehnologija, moraju bojkotovati, a vlade moraju intervenisati da bi stvorile nove tržišne mogućnosti za alternative.

Potrošači imaju značajan uticaj, ali ne i jedini. Kao pojedinci, radnici, nastavnici i građani, moramo razmišljati kako da iskoristimo te uloge za unapređenje razvoja veštačke inteligencije.