Îndepărtarea imperiului AI

În timp ce competiția technocratic-autoritară pentru dezvoltarea tehnologiilor avansate de inteligență artificială continuă cu forță maximă, influența Silicon Valley asupra agendei de reglementare deja egalează – și chiar depășește – pe cea a multor state. Însă, între superputeri globale și giganții AI, Europa are oportunitatea de a căuta ceva mai bun. Interviu cu jurnalista și scriitoarea premiată, Karen Hao.

Alessio Giussani: S-au folosit numeroase metafore pentru a descrie modelul actual de dezvoltare a inteligenței artificiale – de exemplu, un papagal sau un oglindă. De ce ați ales în mod special metafora imperiului?

Karen Hao: Cred că aceste metafore sunt extrem de utile. Mă concentrez pe „imperiu” pentru că nu analizez doar instrumentul tehnologic în sine și ce se întâmplă atunci când este aplicat în societate, ci și procesul de producție a tehnologiei, precum și actorii care acumulează o putere economică și politică extraordinară pentru a o realiza.

Există patru motive principale pentru a numi acest sistem un imperiu. În primul rând, aceste companii solicită resurse care nu le aparțin: datele indivizilor, precum și munca scriitorilor și creatorilor. În al doilea rând, exploatează forța de muncă într-un mod extrem, atât angajații implicați în procesul de fabricație și lanțurile de aprovizionare ale tehnologiilor, cât și cei ale căror drepturi de muncă sunt afectate în timpul implementării tehnologiei.

Al treilea aspect este controlul informației. Una dintre caracteristicile principale ale extinderii imperiilor este capacitatea de a filtra orice producție de cunoaștere și informație prin filtrul scopurilor imperiale, iar același lucru îl fac și companiile de AI. Ele controlează și cenzurează știința prin sprijinul financiar acordat majorității cercetărilor în inteligența artificială și construiesc tehnologii informaționale pe care doresc să le transforme în portal central, prin care toți ceilalți se conectează la lume, inclusiv în educație.

În cele din urmă, toate acestea sunt învelite într-o misiune civilizațională. Susțin că se ocupă de aceste activități pentru a pune la dispoziția umanității o tehnologie care să ne ridice într-o stare utopică, iar dacă o dezvoltă „răii” – adică, de obicei, China – în fața noastră, ne vom scufunda într-o stare distopică. Este o narativă de tip religios, frecvent întâlnită și în vechile imperii.

Imperiul AI, așa cum îl descrieți, nu se limitează la o companie; este un sistem, o logică. Ce se află în spatele atenției asupra OpenAI și a directorului său general, Sam Altman?

Un răspuns este că oamenii au nevoie de povești care să ajute la concretizarea a ceea ce altfel rămâne un concept abstract. Dar OpenAI este deosebit de interesant pentru că a luat toate deciziile importante care au schimbat normele industriei și au orientat-o spre construirea unui imperiu. OpenAI a decis să se extindă cu orice preț, să lucreze cu modele lingvistice mari și să creeze o interfață de tip chatbot pentru acestea. Aproape tot ce asociază astăzi publicul cu inteligența artificială s-a decis inițial în interiorul zidurilor OpenAI.

Dacă povestim această istorie, devine mult mai clar că inteligența artificială nu este inevitabilă, pentru că descoperim că deciziile au fost luate de oameni reali, pe baza valorilor, viziunii lor despre lume, dorinței personale de răzbunare – orice a fost, de fapt, ceea ce a modelat cursul dezvoltării AI. Ideologiile lui Sam Altman nu pătrund doar în model în mod abstract. Se vorbește adesea despre faptul că modelele reflectă creatorii lor, dar am vrut să arăt cum se întâmplă de fapt acest lucru. Este vorba despre companii, oameni și mediul economic și ideologic din care fac parte.

Pe măsură ce aceste tehnologii devin din ce în ce mai eficiente, preluarea controlului asupra utilizării lor devine o chestiune existențială. Am văzut cum Big Tech s-a supus lui Trump în timpul celei de-a doua investiri în funcție, dar și cum directorii companiilor de AI se opun tot mai mult guvernelor. Cine va avea ultimul cuvânt – statul sau companiile private?

Se duce o luptă pentru a decide cine va lua deciziile. Consider că relația dintre Washington și Silicon Valley este o alianță de conveniență, dar foarte tensionată. Reprezintă două modele imperiale diferite, fiecare cu propriile planuri de expansiune. Ambele încearcă să se extindă și să preia, literalmente, mai multe teritorii de la alte țări, dar guvernul Trump vede companiile de AI ca pe instrumente ale aspirațiilor imperiale ale statului. În același timp, Silicon Valley consideră guvernul Trump ca pe un instrument al propriilor aspirații imperiale, dar în realitate nu sunt pe aceeași lungime de undă, pentru că ambele doresc să fie autoritatea supremă, cea care ajunge în vârf.

Au fost momente în care guvernul american a demonstrat că încă este stăpân – când Trump și Musk s-au confruntat, Musk a fost dat afară. Dar când Departamentul Apărării s-a ciocnit cu Anthropic, compania a arătat că, în acest caz, ea este partea mai puternică: ministrul apărării Pete Hegseth a propus „opțiunea nucleară”, amenințând că va declara compania o riscă de lanț de aprovizionare – ca ultimă soluție pentru a o constrânge să se supună – dar compania nu s-a supus. Rușinos, Ministerul Apărării a devenit profund dependent de un actor privat care refuză să coopereze conform condițiilor guvernului, iar guvernul nu poate face nimic împotriva lui.

Ambele părți ale imperiului trebuie să fie responsabile, iar această responsabilitate nu va veni de la ele însele; trebuie să vină de la popor. O organizație bottom-up, care începe să înflorească în întreaga lume, inclusiv în Statele Unite. Oricât de impenetrabilă pare această alianță de conveniență, ea este de fapt extrem de fragilă, și există oportunități de a accelera prăbușirea ei prin presiuni mai mari asupra punctelor slabe.

În loc să privim inteligența artificială ca pe o competiție globală între buni și răi, ar trebui să ne gândim mai degrabă la viziunea noastră despre societate.

Stadiul actual al dezvoltării inteligenței artificiale pare a fi o competiție în curs de a atinge un punct critic între companii rivale și superputeri globale. Ce rol a avut competiția geopolitică cu China în plasarea AI în această situație dificilă?

China este o carte pe care Silicon Valley o joacă de peste un deceniu, practic de când a fost expulzată din China. Dar dacă analizăm rezultatele anterioare ale acestei argumentații, vedem că, în realitate, întotdeauna s-a întâmplat opusul a ceea ce prevesteau previziunile Silicon Valley.

Se spunea că lipsa reglementărilor pentru companiile din Silicon Valley – și controlul acestora prin restricții de export în China – vor face ca tehnologia americană să domine lumea. Însă TikTok este cea mai populară platformă de social media, iar modelele de AI open-source chinezești devin din ce în ce mai populare în întreaga lume, inclusiv în SUA. S-a promis, de asemenea, că dominația Silicon Valley va avea un efect liberalizator asupra lumii, dar acest lucru nu s-a întâmplat; dimpotrivă, impactul a fost profund iliberal. S-a observat o eroziune extremă a instituțiilor democratice și o accelerare rapidă a regresului democratic, susținute și de platformele Silicon Valley și tehnologiile AI.

În loc să privim inteligența artificială ca pe o competiție globală între buni și răi, ar trebui să ne gândim mai degrabă la viziunea noastră despre societate, la tehnologiile AI care ar sprijini această viziune și la resursele de care avem nevoie pentru a o realiza. Nu trebuie să concurăm în competiția impusă de Silicon Valley, ci în valorile și conceptele pe care dorim să le păstrăm. Și cred că Europa are aici o oportunitate de a arăta lumii un al treilea drum, diferit de cel al Statelor Unite și al Chinei, și de a stabili noi reguli.

Comisia Europeană a adoptat recent un pachet de suveranitate tehnologică, parte a eforturilor de a urma o cale proprie în tehnologie. Cum putem formula această viziune astfel încât să nu obținem o variantă europeană a unui model de afaceri bazat pe supraveghere și oligarhiie?

Steaua călăuzitoare pe care Europa trebuie să o urmeze nu este suveranitatea pentru suveranitate, ci atingerea acesteia. Europa – sau cel puțin o mare parte a sa – este una dintre ultimele redute ale democrației din lume. Susține drepturile și libertățile omului și are nevoie de suveranitate tehnologică pentru a promova aceste valori. Atât timp cât rămâne extrem de dependentă de sisteme dezvoltate într-un mod autoritar și care încearcă să submineze societățile europene, nu își va putea păstra valorile.

Conceptul de suveranitate tinde să se estompeze dacă îl interpretăm doar ca pe un scop în sine. Trebuie să fie un mijloc pentru atingerea unui anumit scop.

Din ce coaliții, grupuri de interese sau scene de conflict ar trebui să pornim pentru a construi această viziune alternativă?

În primul rând, trebuie să înțelegem mai larg conducerea AI. De exemplu, drepturile angajaților și protecția societății civile fac parte din gestionarea AI. Elevii, profesorii și lucrătorii din domeniul sănătății trebuie să fie implicați în proces, pentru a ajuta la modelarea și contestarea modului în care se dezvoltă și se aplică inteligența artificială în societate. Educația este esențială, atât ca sector, cât și ca alianță pe care trebuie să o includem, și ca parte a conștientizării sociale despre AI.

Un alt aspect important este finanțarea cercetătorilor și antreprenorilor din domeniul AI, pentru a descoperi detaliile tehnice ale dezvoltării și modul de aplicare. Dar nu le putem oferi doar bani, fără a le da și vocea celorlalte părți ale societății; altfel, riscăm să repetăm problemele cu care ne confruntăm în SUA, unde deciziile sunt adesea luate de tehnocrați sau de conservatori tehnici.

Nu pornim de la zero. S-au făcut deja multe eforturi pentru a stabili obiective comune pe care societatea trebuie să le urmărească. De exemplu, mă refer la obiectivele de dezvoltare durabilă. Acestea pot fi punctul de plecare pentru a decide cum finanțăm inovația în domeniul AI.

Narațiunile actuale despre tehnologiile AI sunt extrem de polarizate. Pe de o parte, sunt cei care spun că aceste tehnologii nu sunt cu adevărat noi și că bula se va sparge în curând. Pe de altă parte, sunt cei care cred că AI va transforma viețile noastre, va revoluționa lanțurile de aprovizionare și ne va face pe toți inutili. Ce părere aveți despre aceste poziții diferite?

Este adevărat că mulți tind să exagereze beneficiile, ignorând costurile tehnologiilor sau punând accent excesiv pe ele, fără a vedea avantajele. Dar cred că o proporție semnificativă dintre noi este de acord că dorim să beneficiem de avantajele AI, fără a sacrifica modul nostru demn de viață – care include servicii de sănătate de calitate, oportunități economice, un mediu sănătos și o planetă prosperă. Aceasta este cea mai echilibrată abordare.

Inteligența artificială (IA) este un termen umbrelă pentru o varietate de tehnologii, așa că trebuie să ne gândim cu atenție la cele în care investim și la noile tehnologii pe care dorim să le dezvoltăm, pentru că fiecare implică compromisuri diferite; unele sunt în armonie cu viziunea noastră despre viitor, altele nu. Trebuie să alegem înțelept.

Inteligența artificială (IA) reprezintă o gamă largă de tehnologii, așa că trebuie să analizăm cu atenție în ce investim și ce tehnologii noi dorim să dezvoltăm.

Care este relația dumneavoastră cu instrumentele AI existente?

Nu le folosesc din trei motive principale. În primul rând, din cauza poziției mele etice. În al doilea rând, din cauza poziției mele privind protecția vieții private: aceste companii sunt cele mai eficiente tehnologii de supraveghere inventate vreodată. În al treilea rând, aceste instrumente nu sunt foarte utile pentru abilitățile speciale de care am nevoie pentru a-mi face munca.

Nu spun că toți ar trebui să facă la fel. Am vorbit cu mulți oameni care profită clar de aceste instrumente sau pentru care utilizarea lor este o cerință profesională. Soluția pentru problema actuală este să facem ceea ce am făcut și în alte industrii, precum moda. Când am descoperit că majoritatea hainelor noastre sunt produse în condiții groaznice, nu am scăpat de haine, ci am fost nevoiți să schimbăm modul în care le cumpărăm și consumăm. Organizații de consumatori, de angajați, reglementări guvernamentale și opinia publică au fost necesare pentru a ține industria sub control. Desigur, moda nu este încă perfectă, dar există alternative, iar consumatorii pot vota cu buzunarul pentru lanțurile de aprovizionare și practicile corporative pe care le susțin.

Trebuie să facem același lucru și cu AI. În prezent, nu există suficiente alternative pentru utilizatori, iar pentru a schimba acest lucru, este nevoie de mai multe organizații de angajați și de o rezistență publică mai puternică. Cei care pot evita utilizarea acestor tehnologii trebuie să boicoteze, iar guvernele trebuie să intervină pentru a crea noi piețe pentru alternative.

Consumatorii au o influență importantă, dar nu singura. Ca indivizi, ca angajați, educatori și cetățeni, trebuie să ne gândim cum putem folosi aceste roluri pentru a îmbunătăți dezvoltarea AI.