Kurčakizacija i video kasete: zašto tehnološke kompanije nisu sve cool?

Michał Sutowski: Odvrnuti kentaur – lik s glavom konja i trupom čoveka – služi vam kao metafora podređenosti tela radnika mozgu mašine, u ovom slučaju digitalne mašine. Ali da li je to zaista novo pojava? O tome da su mašine morale služiti čoveku, a zatim je on postao njihov rob, piše se najmanje već pola i po veka. Radnik je već uvučen u mehanizam mašine još kod Čarlija Čaplina u filmu Današnje vreme 1936. godine…

Cory Doctorow: Ako je u pitanju savremeni nivo kontrole i eksploatacije, količina prelazi u kvalitet. Uzmimo primer ugovorenih sestara, koje su nekada zapošljavali preko lokalnih agencija za posredovanje u radu, po 2-3 u svakom gradu. Danas ih zamenjuju nacionalne aplikacije, jedna od četiri u celim SAD. Aplikacije imaju pristup, na primer, nivou duga na kreditnim karticama sestara, tako da im algoritam može ponuditi nižu satnicu za radni dan, u zavisnosti od njihove finansijske očajnosti.

Poslodavci su uvek iskorišćavali tešku situaciju radnika – što je veća nezaposlenost, to je veći pritisak: ako ti se ne sviđa, imam petoro na tvoje mesto.

Jasno, vlasnici rudnika pre 150 godina takođe bi rado zavisili dnevnicu od toga da li je dete tog rudara trenutno bolesno ili da li mu plafon u sobi prokišnjava. Ali da bi prepoznali i procenili stepen ekonomske očajnosti svakog radnika u realnom vremenu, morali bi da zaposle toliki broj špijuna ili detektiva Pinkertona da bi ceo mehanizam bio neisplativ. Drugačije je ako se taj proces može automatizovati – uz uticaj na odgovarajuće regulative i razvoj tehnologije.

Koje regulative?

Znanje o tome koliko dugu na kartici ima svaki Amerikanac može se saznati zato što u SAD nismo ažurirali zakon o privatnosti od 1988. godine, kada je zabranjeno otkrivanje… liste kaseta za iznajmljivanje od strane građana. Ostala kršenja privatnosti su, naravno, potpuno legalna. A sada dodajmo i veštačku inteligenciju. AI se ne pokazuje svuda, ali upravo automatizovana, višefaktorska analiza eksperimentiše odlično.

Znači šta zapravo?

U seriji Mad Men postoji scena u kojoj stručnjak za reklamu Don Draper deli tržište na segmente: evo ljudi koji pamte Veliku depresiju, pa će kupovati konzervu hrane za zalihe; a tu su i oni koji su izašli iz srednjih škola, ali vole praktično-tehničke predmete. I kada ih podeli, radi fokus grupe da ih bolje razume. A danas, kada imate podatke iz digitalne infiltracije, možete koristiti automatizovane alate za statističku analizu. Delite ljude prema njihovom potrošačkom ponašanju i karakteristikama. Ali ne trebaju vam fokus grupe, već niz malih eksperimenata.

I šta ću saznati?

Ko i kada može platiti višu cenu za određeni proizvod ili prihvatiti nižu satnicu za posao. Testirate na populaciji od milion ljudi da li možete izvući tih 10 odsto više. Hoće li kupiti skuplju pastu za zube, naručiti skuplju hranu? Prihvatiće lošije plaćeni posao za dnevnicu ili projekat? To dalje testirate, dok se kriva rasta ne izravna. Za to vam nisu potrebne velike teorije, dovoljne su prilično naivne intuicije, mnoštvo dostupnih podataka i automatizacija. Brzo ćete doći do saznanja koji potrošači su najpodložniji iskušenjima, a koji radnici očajni. I tako se prenosi dodata vrednost od rada na kapital, u realnom vremenu.

I da li ti mehanizmi uvek moraju služiti kapitalu? A ne radu?

Tehnologija može biti dvostruka. Računar je, na primer, Turing-Neumann mašina, što znači da može da pokreće bilo koji program. U praksi to znači da u konkurentnom okruženju ili bar takvom gde korisničke ili radničke zajednice mogu slobodno da deluju, sve te mehanizme nadzora i podizanja cena mogu neutralisati nekim drugim tehnološkim rešenjem. Ako ti neko na ekran baca desetine iskačućih reklama, na kraju ćeš skinuti program za blokiranje.

Zašto onda te jadne sestre i putnici Ubera na to ne posegnu?

Zato što tu ulazi čitava regulativna pljačka. U Evropi je takva inženjerija unazad aplikacija nelegalna zbog Direktive o autorskim pravima, čiji je element tzv. klauzula protivobilaženja. Amerikanci su je nametnuli svim poslovnim partnerima, preteći im uvođenjem uvoza carina na njihove proizvode ako je ne prihvate. U Evropi je uvedena 2001, u Kanadi 2012, praktično svaka razvijena zemlja ima sličan zakon. Ako bi ga uspeli promeniti, mogli bi da zaposle mnoštvo tehničara za rad u korist potrošača, radnika ili firmi koje tek ulaze na tržište, malih i srednjih – umesto da pokušavaju da ubede velike tehnološke kompanije da promene svoje postupke ili ih jednostavno regulišu.

Zašto onda ne regulisati?

Zato što je regulisanje, na primer, Apple-a, pokazalo nemoguće. Oni se prave da su Irci, tamo su registrovani i ništa im ne može. Možda da prestanemo da ubeđujemo Applea da napiše i podeli kod koji bi otvorio iPhone, a umesto toga da dozvolimo da to napišu Poljaci ili Finci? O tome mogu odlučiti u Varšavi, Helsinkiju ili Briselu – pod uslovom da sprečimo Apple da koristi evropske sudove za uništavanje poljskih, finskih ili bilo kojih drugih firmi ili zadruga koje bi to otvorile. To je i dalje lakše za Evropljane nego da utiču na način pisanja kodova od strane Applea, posebno kada u Beloj kući sedi Tramp, a Irska je poreski raj.

A šta sa pokušajima da Facebook ili X, na primer, moderiraju javnu debatu?

Prvo: da li to zaista želimo? Da Mark Zuckerberg bude odgovoran za to šta ljudi mogu da kažu? Ja ne. Vidimo danas koliko su algoritmi za moderaciju pristrasni. A pošto su krajnje neprozirni i rade na veliku skalu, vrlo je teško sprovoditi, na primer, ograničenje govora mržnje. Jer prvo moramo da uspostavimo prihvatljivu definiciju govora mržnje koju laik razume. Zatim da identifikujemo primere kada je on dozvoljen na platformi. Dalje, da potvrdimo da se izjava uklapa u definiciju, i na kraju, da li je Facebook preduzeo odgovarajuće mere da to spreči. A pošto samo inženjeri Facebooka razumeju kako on zaista funkcioniše, verovatno ćemo za 10 godina moći da odlučimo o osnovanosti tužbe za događaj koji se dešava 100 puta u minuti. To je, jednostavno, neozbiljno!

Šta onda možemo učiniti?

Da omogućimo napuštanje Facebooka bez gubitka kontakta sa prijateljima koji tamo ostaju, i sa sadržajima koje bi nam želeli prikazati.

I da li je to moguće?

Da, isto kao što je moguće odseći sav taj smeće koje nam stiže na feed – sve reklame i materijale koji guraju postove naših prijatelja. U 2024. godini, dva tinejdžera su napravila OG APP, koristeći inženjeriju unazad – baš Instagram. Dali ste joj svoj login i lozinku, aplikacija se logovala na Instagram, lažno predstavljajući se vama, a zatim vam je prikazivala ono što su vam prijatelji koje pratite poslali u obrnutom hronološkom redosledu, ali odvajajući ono što Instagram promoviše za novac, reklame i taj šljam. U oba prodavca aplikacija – Apple i Google – u toku dana ušla je u top deset najkupovanijih, dok je nisu obrisali. Zato što je Facebook to tražio.

Vidiš, nisam od onih koji kažu da tržište uvek treba da odlučuje, ali za ovakve stvari ljudi bi zaista bili spremni da plate, zar ne?

Da li je to bilo legalno?

Naravno da nije, zbog, između ostalog, Direktive o autorskim pravima i drugih regulativa. Ali to bi se moglo legalizovati.

Zakoniti kršenje kodova i hakovanje aplikacija?

Ali na način da se štite druge vrednosti: u Evropi imate GDPR, radnička prava, prilično snažnu zaštitu potrošačkih prava. Ako zaobiđem zaštitu vaše aplikacije ili uređaja, možete me tužiti. Ali ja tada imam pravo na brzu preliminarnu raspravu: ako ne kršim radnička, potrošačka ili prava na privatnost, nema suđenja, a teret dokaza je na tužiocu. To bi bio kompromis, sličan zakonima protiv SLAPP tužbi, koji štite zviždače i kritične novinare od tužbi. Ako moja aplikacija uvodi virus u vaš telefon, prati vas ili šalje prevaru vašim prijateljima, to je naravno nelegalno. Nije teško razlikovati korisno i štetno rešenje. Zaboravljajući na sitnice, to bi bila inkarnacija principe samog Zuckerberga – Move Fast and Break Things – u najboljem izdanju.

Zašto?

Projektovanje i deljenje tehnologije tako da služe radnicima i potrošačima, u skladu sa lepom načelom „ništa o nama bez nas“, čak i po cenu probijanja barijera i ograničenja koje nameće monopolista – to je mnogo lakše postići nego da se natera Zuckerberga ili Muska da se ponašaju pristojno. U Evropi imate izuzetno povoljne uslove da izađete iz dileme: sloboda za svakoga ili „konstitucionalna monarhija“, gde neki birokrate mogu da nameću kralju Zuckerbergu određena ograničenja, ali mu ne oduzimaju tron.

Započeli smo pričom i starim zamislima o čoveku i mašini. Možda još jedna istorijska analogija: metafora za čitavu epohu industrijskog kapitalizma bila je fabrika i proizvodna traka Henryja Forda. U knjizi Gównowacenie. Kako digitalni giganti menjaju naš svet na gore predlaže se da je dobra metafora za današnje vreme… farma pilića. Zašto?

Zaista pišem o „kurčakizaciji“, odnosno približavanju poslovnog modela velikih tehnoloških kompanija načinu funkcionisanja današnjih farmi pilića. U SAD, oni uzgajaju piliće prema pravilima strogo odredjenim od strane potrošača, koji de facto drži monopol na određenom teritoriju. Farmeri preuzimaju sav rizik i neizvesnost vezanu za tehnološki proces i konjunkturu, na koje nemaju uticaja. Ulažu svoj novac, svoju infrastrukturu, primenjuju preporučeni način proizvodnje – a na kraju, i pored svega, o njihovoj zaradi odlučuje kupac.

Neko kao veliki kućni majstor?

Kao spoj najgoreg kućnog majstora i radnika u fabrici. Ulažeš u posao svoje alate i finansijska sredstva, a zatim si pod strogom kontrolom, kao u taylorovskoj fabrici, gde je nadzornik štoperom merio tvoje pokrete na traci i zahtevao normu. Danas, nadzor i organizaciju omogućavaju naravno mašine.

A kako to ima veze sa farmom pilića?

Kupac pilića može smisliti eksperiment: promenićemo osvetljenje u tvojoj kokošinjcu ili sastav hrane. Drugi farmeri će biti kontrolna grupa. Ako eksperiment uspe i pilići narastu masniji, super, a ako ne – farmer će dobiti manje novca nego što je očekivao. Nekada je rad kućnog majstora bio sličan: moj deda, kada je došao u Kanadu, bio je krojač i šio je za većeg kupca. Radio je u svom radnjici, koju je sam organizovao, a ako mu je kupac nešto zamerio, nije uzeo robu – i deda je bio gubitnik. Ali bar nije bio pod stalnom kontrolom, dok je sedeo u svom kućnom radnom mestu.

Bar je imao svoj home office…

A danas, home office nije rad od kuće, već stan u poslu, posebno od pandemije. Nastao je čitav niz tzv. bossware, tehnologija nadzora od strane šefa nad radom zaposlenih na daljinu – omogućavaju da gledaju njihov pogled iz kamere, slušaju zvuke mikrofonom, pa čak i proveravaju raspored tastera i protok podataka u kućnom Wi-Fi-u. Radnik plaća kiriju, vodu, struju i grejanje, a šef mu gleda u stan. Slično je i farmeru koji plaća za radnju, a ipak nema uticaja na nju.

Pričate o mogućnostima i prednostima koje digitalne tehnologije pružaju gigantima, uz regulative i uslove monopola – i kako sve to podstiče „gównowacenje“ ponude za potrošača, uslova rada i saradnje. Ali takođe pokazujete, na primerima Facebooka, Googlea ili Amazona, da je to bio proces. Da li to znači da je nekada postojao, na primer, „stari, dobri Amazon“, koji je zaista služio klijentima, radnicima i partnerima?

Ali naravno! Na početku, Amazon je bio oduševljen ne samo potrošačima, već i izdavačima i piscima. Servis je imao pre svega odlične preporuke knjiga. A pošto su devedesete bile vreme uspona J. K. Rouling, Amazon je zaista uvlačio ljude u čitanje. Fanovima Harija Potera, koji nisu pročitali ništa drugo u životu, preporučivao je 50 sledećih naslova i često ih pretvarao u knjiške moljce.

Amazon, podsetimo, počeo je kao knjižara.

Da, knjige imaju tu prednost što su prilično standardizovane: gotovo sve paperback verzije u SAD imaju dimenzije 6 na 9 inča, pa je lako optimizovati pakovanje i isporuku. A korisnička služba je u početku bila sjajna – vraćali su robu gotovo bez pitanja, na svoj trošak. Kada su pustili u posao i druge prodavce, uzeli su na sebe deo troškova isporuke i deo vraćanja. Prodavci su bili oduševljeni, a i kupci. A što je najvažnije, tada nisu otimali od izdavača.