Meranie mobilného tela
Európsky high-tech arzenál hraničných technológií sa často rozpráva ako futuristický príbeh o svetle, rýchlosti a výpočtovej sile. Identifikačné systémy, ako napríklad databáza Eurodac, uchovávajú, spracúvajú a porovnávajú digitalizované odtlačky prstov migrantov pomocou blízkeho infračerveného svetla, optických káblov a centralizovaných serverov. Na oblohe hliadkujú bezpilotné lietadlá s neblikajúcimi optickými senzormi. Veľké objemy údajov sa prenášajú do počítačových programov, ktoré predpovedajú ďalší nárast príchodov.
Novinové články a správy mimovládnych organizácií zamerané na high-tech charakter európskych hraníc sú bohaté. Každá z nich objasňuje, ako vzdialené formy dohľadu, odstrašovania a kontroly čoraz viac dopĺňajú a v niektorých prípadoch nahrádzajú hraničné opevnenia. Hoci je tento druh výskumu a propagácie nevyhnutný na to, aby sa EÚ a vývojári technológií zodpovedali za svoju úlohu pri hnaní žiadateľov o azyl smerom k smrtonosným migračným trasám, zamlčuje dlhú históriu týchto technológií a ich zavedenú úlohu v západných aparátoch riadenia. Tým nielenže hrozí, že sa posilní „humbuk okolo AI“ medzi tvorcami politík a vývojármi, ktorí tieto nástroje oslavujú ako prostriedok na vytvorenie „inteligentnejších“ hraníc a zároveň na ochranu ľudských práv migrantov. Dôležitejšie je, že tento druh historickej amnézie môže tiež nesprávne interpretovať násilie a vylúčenia, ktoré tieto technológie zavádzajú, ako technický problém „skreslenia“, ktorý sa ľahko napraví presnejšími meraniami alebo väčšími súbormi údajov. Namiesto toho by sa veľká časť škôd spôsobených týmito technológiami mala chápať ako inherentná súčasť ich dizajnu.
Katalóg identifikácie
Využívanie pokročilých technológií na kontrolu ľudskej mobility nie je ničím novým. Predstavte si mestskú európsku policajnú stanicu na konci devätnásteho storočia. Ak by obec prijala najnovšiu technológiu identifikácie, podozrivé osoby by boli podrobené zložitému procesu merania. Zaznamenávanie ich rozmerov bol presný a vysoko špecializovaný proces, ktorý si vyžadoval kvalifikovaného a vyškoleného technika.
Pozrite si tieto inštrukcie na meranie ucha:
Operátor priblíži pevnú čeľusť prístroja k hornému okraju ucha a znehybní ho, pričom ľavý palec pomerne pevne pritlačí na horný koniec čeľuste prístroja, pričom ostatné prsty ruky sa opierajú o hornú časť lebky. So stopkou meradla rovnobežnou s osou ucha jemne tlačí pohyblivú čeľusť, až kým sa nedotkne dolného konca laloku, a pred odčítaním uvedeného čísla sa uistí, že ušnica [vonkajšia časť ucha] nie je žiadnou z čeľustí stlačená.1
Tento postup môže znieť ako kuriózny, aj keď trochu zvláštny pozostatok z obdobia Fin de Siècle, ale je to všetko iné. Bertillonage, systém merania, klasifikácie a archivácie na identifikáciu zločincov, ktorý v 70. rokoch 19. storočia vymyslel rovnomenný francúzsky policajný úradník, bol míľnikom v dejinách technológie sledovania a identifikácie. Je pozoruhodné, že jeho kľúčové princípy sú dodnes základom identifikačných technológií, od databázy až po biometriu a strojové učenie.
Medzi obavami z nekontrolovaného pohybu rôznych „nežiaducich osôb“ a technologickými inováciami existuje úzka a historicky potvrdená súvislosť. Techniky z devätnásteho storočia, vyvinuté a zdokonalené na riešenie problémov súvisiacich s tuláctvom, koloniálnou správou, deviáciou, šialenstvom a kriminalitou, sú základom dnešného high-tech aparátu hraničného dozoru. Medzi tieto techniky patrí kvantifikácia, ktorá ľudské telo vykresľuje ako kód, klasifikácia a moderné metódy indexovania a archivácie.
Moderná invazívna registrácia
Chytré hraničné systémy využívajú pokročilé technológie na vytvorenie „moderných, efektívnych a účinných“ hraníc. V tejto súvislosti sa pokročilé technológie často vykresľujú ako prevod hraničných procesov, ako je identifikácia, registrácia a kontrola mobility, na čisto technický postup, čím sa proces stáva spravodlivejším a menej náchylným na ľudskú chybovosť. Algoritmická presnosť je charakterizovaná ako prostriedok na zabránenie neetickým politickým predsudkom a nápravu ľudských chýb.
Ako výskumník technicko-vedeckých základov high-tech hraničného aparátu EÚ,2 si uvedomujem rastúcu pružnosť súčasných hraničných praktík, ako aj historicky ustálenú metodológiu ich nástrojov a postupov.3
Zoberte si napríklad databázu Eurodac, základný kameň riadenia hraníc EÚ. Tento index, ktorý bol zriadený v roku 2003, uchováva odtlačky prstov žiadateľov o azyl v rámci presadzovania dublinského nariadenia o prvom vstupe.4 Odtlačky prstov a registrácia v interoperabilných databázach sú tiež ústrednými nástrojmi využívanými v nedávnych prístupoch k riadeniu migrácie, ako je napríklad prístup hotspotov, kde priradenie totožnosti slúži ako prostriedok na odfiltrovanie „zaslúžilých“ od „nezaslúžilých“ migrantov.5
V priebehu rokov sa rozšíril typ údajov uchovávaných v systéme Eurodac aj ich použitie: jeho rozsah sa rozšíril tak, aby slúžil „na širšie migračné účely„, pričom sa v ňom uchovávajú údaje nielen o žiadateľoch o azyl, ale aj o nelegálnych migrantoch s cieľom uľahčiť ich deportáciu. V nedávno prijatom návrhu sa k odtlačkom prstov pridali snímky tváre a biografické údaje vrátane mena, štátnej príslušnosti a informácií o pase. Okrem toho sa znížil minimálny vek migrantov, ktorých údaje sa môžu uchovávať, zo štrnástich na šesť rokov.
Od roku 2019 je systém Eurodac „interoperabilný“ s viacerými ďalšími databázami EÚ, v ktorých sa uchovávajú informácie o hľadaných osobách, cudzincoch, držiteľoch víz a iných osobách, ktoré sú predmetom záujmu orgánov trestného súdnictva, imigračnej a azylovej správy, čím sa účinne prepojí trestné súdnictvo s migráciou a zároveň sa výrazne rozšíri prístup k týmto údajom. Systém Eurodac zohráva pre európske orgány kľúčovú úlohu, čoho dôkazom je snaha o dosiahnutie „100 % miery odoberania odtlačkov prstov“: Európska komisia nalieha na členské štáty, aby do databázy zapísali každú novo prichádzajúcu osobu, v prípade potreby používa fyzické donútenie a zadržanie.
Označovanie trestnej činnosti
Akkoľvek národné štáty zhromažďovali údaje o občanoch na účely zdaňovania a vojenského náboru po stáročia, ich indexovanie, organizovanie v databázach a klasifikácia na konkrétne vládne účely – ako napríklad kontrola mobility „nežiaduceho“ obyvateľstva – je vynálezom devätnásteho storočia.6 Francúzsky historik a filozof Michel Foucault opisuje, ako sa v súvislosti s rastúcou urbanizáciou a industrializáciou štáty čoraz viac zaoberali otázkou „obehu“. Osoby a tovar, ako aj patogény, cirkulovali ďalej ako v ranom novoveku.7 Hoci sa štáty nesnažili tieto pohyby úplne potlačiť alebo kontrolovať, hľadali prostriedky na zvýšenie toho, čo sa považovalo za „pozitívnu“ cirkuláciu, a minimalizáciu „negatívnej“ cirkulácie. Na tento účel nasadili nové nástroje pozitivistickej spoločenskej vedy: v oblasti demografie sa používali štatistické prístupy na sledovanie a reguláciu javov, ako sú pôrody, nehody, choroby a úmrtia.8 Vznikajúci manažérsky národný štát riešil problém cirkulácie vytvorením veľmi špecifického súboru nástrojov zhromažďujúcich podrobné informácie o obyvateľstve a vypracovaním štandardizovaných metód uchovávania a analýzy.
Jedným z obzvlášť nepríjemných problémov bol obeh známych zločincov. V devätnástom storočí sa všeobecne verilo, že ak sa osoba raz previní, previní sa aj znova. Dostupné systémy na identifikáciu zločincov však boli na túto úlohu žalostne nedostatočné.
Ako vysvetľuje kriminológ Simon Cole, identifikácia neznámej osoby si vyžaduje „skutočne jedinečný telesný znak“.9 Pred príchodom moderných systémov identifikácie však existovali len dva spôsoby, ako to dosiahnuť: označenie značkou alebo osobné rozpoznanie. Hoci sa v Európe a Severnej Amerike cejchovanie bežne používalo na odsúdencoch, väzňoch a zotročených osobách, vývoj myšlienok týkajúcich sa kriminality a trestu viedol začiatkom 19. storočia do veľkej miery k zrušeniu fyzického označovania. Namiesto neho vznikol trestný spis: písomný dokument, v ktorom bolo uvedené meno odsúdeného a písomný opis jeho osoby vrátane identifikačných znakov a jaziev.
Ukázalo sa však, že identifikácia podozrivého len na základe písomného opisu je náročná. A systém bol zraniteľný voči používaniu prezývok a rôznym pravopisom mien: s istotou bolo možné identifikovať len osobu známu v jej komunite. Rané systémy identifikácie zločincov boli v zásade zraniteľné voči mobilite.10 Je pozoruhodné, že tieto problémy naďalej strážia súčasné riadenie migrácie, keďže databázy často obsahujú viacero záznamov pre tú istú osobu, ktoré sú výsledkom rôznych transliterácií mien z arabskej abecedy do latinky.
Vynález fotografie v 40. rokoch 19. storočia len málo pomohol vyriešiť otázku spoľahlivosti identifikácie zločincov. Nielenže fotografický záznam bol stále závislý od osobného rozpoznania, ale nastolil aj otázku archivácie. Trestné záznamy sa pred Bertillonage uchovávali buď ako ročné zbierky trestných činov, alebo ako abecedné zoznamy páchateľov. Fotografie síce poskytovali presnejšie zobrazenie tváre, ale neexistoval spôsob, ako ich archivovať podľa znakov. Ak chcel niekto v indexe vyhľadať napríklad osobu s výraznou bradou, neexistoval na to žiadny postup. Fotografie odsúdených boli zoradené abecedne podľa mena, ktoré uviedol páchateľ, čím trpeli rovnakým nedostatkom ako iné identifikačné systémy.
Predchodca datovania
Alphonse Bertillon ako prvý vyriešil tento problém spojením systematického merania ľudského tela s archiváciou a vedením záznamov. Tento kriminalista zlepšil vyhľadávanie záznamov tým, že záznamy triedil číselne, a nie abecedne, a vytvoril systém indexovania založený výlučne na antropomorfných meraniach. Indexové karty boli usporiadané podľa hierarchického klasifikačného systému, pričom informácie boli najprv rozdelené podľa pohlavia, potom podľa dĺžky hlavy, šírky hlavy, dĺžky prostredníka atď. Každý súbor meraní bol rozdelený do skupín na základe štatistického hodnotenia ich rozloženia v populácii, pričom priemerné hodnoty boli stanovené na základe meraní odsúdených. Operátor Bertillon by vzal profil podozrivého do archívu a hľadal by zhodu prostredníctvom vylučovacieho procesu: najprv by vylúčil pohlavie, ktoré sa nezhoduje, potom dĺžku hlavy, ktorá sa nezhoduje, a tak ďalej. Ak sa našla predbežná zhoda, potvrdila sa odkazom na telesné znaky uvedené aj na karte. Všade, kde sa tento systém zaviedol, miera rozpoznania „recidivistov“ prudko stúpla; Bertillonov systém sa čoskoro rozšíril po celom svete.11
S Bertillonom vstúpil do rámca ďalší charakteristický znak súčasnej technológie hraníc a dohľadu: kvantifikácia, alebo to, čo sa dnes nazýva „datafikácia“. Bertillon nielenže meral výšku a dĺžku hlavy väzňov, ale vynašiel aj metódu na prevod charakteristických znakov tela do kódu. Ak mal napríklad väzeň jazvu na predlaktí, predchádzajúce systémy identifikácie zločincov ju jednoducho zaznamenali do spisu. Naproti tomu Bertillon meral ich vzdialenosť od daného referenčného bodu. Tie sa potom zaznamenávali štandardizovaným spôsobom pomocou idiómu skratiek a symbolov, ktorý tieto opisy zobrazoval v skrátenej podobe. Výsledný portrét parlé, alebo hovorený portrét, prepisoval fyzické telo do „univerzálneho jazyka“ „slov, čísel a kódovaných skratiek“.12 Prvýkrát v histórii bolo možné telegraficky odoslať presný opis predmetu.
Preklad tela do kódu je stále základom súčasných metód biometrickej identifikácie. Identifikácia odtlačkov prstov systémy, ktoré boli prvýkrát vyskúšané a zavedené v koloniálnej Indii, konvertovali vzory papilárnych hrebeňov do kódu, ktorý sa potom mohol porovnávať s inými kódmi vytvorenými rovnakým spôsobom. Technológia rozpoznávania tváre vytvára schematické reprezentácie tváre a priraďuje k nim číselné hodnoty, čím umožňuje porovnávanie a zhody. Na rovnakom princípe fungujú aj iné formy biometrickej identifikácie, ako je identifikácia hlasu, skenovanie dúhovky a rozpoznávanie chôdze.
Od taxonómie k strojovému učeniu
Okrem kvantifikácie je klasifikácia – po stáročia kľúčový nástroj tvorby a riadenia znalostí – ďalším charakteristickým znakom moderných a súčasných technológií dohľadu a identifikácie. Ako poznamenali mnohí vedci od Foucaulta13 po Zygmunta Baumana14 a Denise Ferreira da Silva15 , klasifikácia je ústredným nástrojom európskeho osvietenstva, čo najikonickejšie dokazuje taxonómia Carla Linnéia. Linnaeus vo svojej stupňovitej tabuľke pomenoval, klasifikoval a hierarchicky usporiadal svet prírody od rastlín cez hmyz až po človeka, pričom každú skupinu rozdelil a rozdelil podľa spoločných znakov. Klasifikácia a taxonómia sa všeobecne považujú za výraz zásadných epistemologických posunov od teocentrickej k racionalistickej epistemológii v ranom novoveku, ktoré umožnili vedecké objavy, ale boli spojené aj s kolonizáciou a zotročovaním.16 Geoffrey Bowker a Susan Leigh Star vo svojej knihe na túto tému zdôrazňujú používanie klasifikácie ako mocného, ale často neuznaného nástroja politického objednávania: „Politicky a sociálne zaťažené programy sa často najprv prezentujú ako čisto technické a je ťažké ich aj vidieť. Ako sa vrstvy klasifikačného systému včleňujú do fungujúcej infraštruktúry, pôvodný politický zásah sa čoraz pevnejšie zakotvuje. V mnohých prípadoch to vedie k naturalizácii politickej kategórie prostredníctvom procesu konvergencie. Stáva sa samozrejmosťou.“17
Dnes je klasifikácia ústredným prvkom strojového učenia, podoblasti umelej inteligencie určenej na rozoznávanie vzorov vo veľkom množstve údajov. To umožňuje nielen kategorizovať obrovské množstvo informácií, ale aj predpovedať a klasifikovať nové, predtým nepozorované údaje. Inými slovami, aplikuje naučené znalosti na nové situácie. Výskum strojového učenia sa začal v polovici minulého storočia, ale v poslednom čase sa dostalo do nebývalého povedomia vďaka aplikáciám, ako je ChatGPT.
Strojové učenie sa čoraz viac uplatňuje aj v hraničnej práci. Zriedkavo sa používa ako samostatná technológia, ale je široko nasadené v rámci existujúcich technológií na rozšírenie a urýchlenie dlhodobo zavedených foriem dohľadu, identifikácie a triedenia. Napríklad, algoritmické predpovedanie, ktoré analyzuje veľké množstvo údajov vrátane vzorcov pohybu, príspevkov v sociálnych médiách, politických konfliktov, prírodných katastrof a ďalších, čoraz viac nahrádza štatistické modelovanie migrácie na účely mapovania migračných vzorcov. Európska komisia v súčasnosti financuje výskum algoritmických metód ktorý by rozšíril existujúce formy analýzy rizík tým, že by využíval širšie zdroje údajov na identifikáciu nových foriem „rizikového“ správania. Strojové učenie sa tiež buď skúša, alebo používa v detektoroch lži“ pohraničnej stráže, rozpoznávaní dialektov, sledovanie a identifikácia podozrivých plavidiel, rozpoznávanie tváre na vnútorných hraniciach EÚ a behaviorálna analýza väzňov v gréckych táboroch. Ako ukazuje táto široká škála aplikácií, zdá sa, že žiadna hraničná technológia nie je vyňatá zo strojového učenia, či už ide o asistovanú analýzu obrazu z dronov alebo preverovanie žiadostí o azyl.
Klasifikácia je jadrom strojového učenia – alebo aspoň typu dátami riadeného strojového učenia ktoré sa dnes stalo dominantným. Jednotlivé dátové body sú usporiadané do kategórií a podkategórií, pričom tento proces sa vykonáva buď prostredníctvom učenia pod dohľadom, alebo bez dohľadu. Pri učení pod dohľadom sa trénované údaje označujú podľa vopred definovanej taxonómie. V praxi to zvyčajne znamená, že ľudia priraďujú k údajom štítky, napríklad „pes“ k obrázku uvedeného psa. Model strojového učenia sa učí z takto označeného súboru údajov identifikovaním vzorov, ktoré korelujú so štítkami. V prípade nekontrolovaného učenia ľudia údaje neoznačujú. Namiesto toho algoritmus nezávisle identifikuje vzory a štruktúry v rámci údajov. Inými slovami, algoritmus klasifikuje údaje vytvorením vlastných zhlukov na základe vzorov obsiahnutých v súbore údajov. Vytvára vlastnú taxonómiu kategórií, ktorá sa môže, ale nemusí zhodovať so systémami vytvorenými človekom.
Predpokladaný typ trestného činu
Ako upozorňuje odborníčka na umelú inteligenciu a hranice Louise Amoore, obsadenie algoritmických zhlukov ako reprezentácie vrodených, „prirodzených“ vzorcov z dát je „mimoriadne silnou politickou ponukou“, keďže „ponúka prísľub neutrálneho, objektívneho a hodnotovo bezbrehého vytvárania a ohraničovania politickej komunity“.18 Myšlienka algoritmického zhluku ako „prirodzenej komunity“ zahŕňa významný rasizujúci krok: formy správania spojené s nelegálnou migráciou sú následne označené ako „rizikové“. Keďže sa tieto zhluky vytvárajú bez odkazu na vopred definované kritériá, ako sú „klasické“ zástupné znaky pre rasu, napríklad národnosť alebo náboženstvo, je ťažké spochybniť ich existujúcimi pojmami, ako sú chránené charakteristiky alebo zaujatosť.19 Napríklad migrant môže byť identifikovaný ako bezpečnostné riziko algoritmom strojového učenia na základe neprehľadnej korelácie medzi cestovnými itinerármi, príspevkami na sociálnych médiách, osobnými a profesionálnymi sieťami a vzorcami počasia.
Vytváranie kategórií podľa vrodených atribútov je ozvenou a nadväzuje na iné postupy devätnásteho storočia: konkrétne na celý rad vedeckých úsilí využívajúcich merania a štatistiku na identifikáciu pravidelností a vzorcov, ktoré by poukazovali na kriminálne správanie. Podobne ako nekontrolované strojové učenie, oblasti kraniometrie, frenológie a kriminálnej antropológie systematicky zhromažďovali údaje o ľudských subjektoch s cieľom získať vzory, ktoré by sa dali roztriediť do kategórií kriminality.
Frenológovia ako Franz Joseph Gall napríklad spájali špecifické osobnostné črty so zvýraznením oblastí lebky. V príbuznej oblasti fyziognomiky sa osobnosti ako švajčiarsky pastor Johann Kaspar Lavater venovali systematickému skúmaniu čŕt tváre ako vodítka pre kriminálne správanie. Vďaka rozvoju fotografie sa rozšírili štúdie skúmajúce znaky kriminality v tvári, pričom odsúdenci a chovanci azylových domov boli opakovane podrobovaní takýmto „štúdiám“. Príkladom sú kompozitné fotografie Francesa Galtona, zakladateľa eugenického hnutia a priekopníka identifikácie odtlačkov prstov: snímky odsúdených sa ukladali na seba, aby sa získali zákonitosti ako fyzické znaky kriminality.20
Kriminálna antropológia zjednotila tieto prístupy do uceleného pokusu podrobiť telo zločinca vedeckému skúmaniu. Pod vedením talianskeho psychiatra a antropológa Cesareho Lombrosa používali kriminálni antropológovia širokú škálu antropomorfných meracích nástrojov, od Bertillonových presných meraní končatín až po kraniometrické merania lebky, mapovanie čŕt tváre a zaznamenávanie charakteristických znakov, ako sú jazvy a tetovania. Na tomto základe vymenovali zoznam takzvaných „stigmat“ alebo fyzických zákonitostí, ktoré sa nachádzajú na tele „rodených zločincov“ Hoci je dnes tento pojem značne zdiskreditovaný, základná metóda klasifikácie založená na hromadných charakteristikách údajov stále existuje.
Dôvera v závery vyvodené z kvantitatívnej analýzy tvárových znakov je stále silným lákadlom. V 2016 článku sa tvrdilo, že sa podarilo úspešne vycvičiť algoritmus hlbokej neurónovej siete na predpovedanie kriminality na základe snímok hlavy z vodičských preukazov, zatiaľ čo 2018 štúdia predložila podobné tvrdenia o čítaní sexuálnej orientácie z fotografií zo zoznamky.
Pri kritickom zaobchádzaní s týmito systémami je nevyhnutné mať na pamäti širší politický projekt, na podporu ktorého sú nasadené. Ako píše odborníčka na umelú inteligenciu Kate Crawfordová: „Korelácia morfológie lebky s inteligenciou a nárokmi na zákonné práva pôsobí ako technické alibi pre kolonializmus a otroctvo. Hoci existuje tendencia zameriavať sa na chyby v meraniach lebky a na to, ako ich opraviť, oveľa väčšia chyba je v základnom svetonázore, ktorý túto metodiku oživil. Cieľom by teda nemalo byť volanie po presnejších alebo „spravodlivejších“ meraniach lebiek, ktoré by podporili rasistické modely inteligencie, ale úplné odsúdenie tohto prístupu.“ 21 Inak povedané, techniky klasifikácie a kvantifikácie nemožno oddeliť od sociálno-politických súvislostí, ktoré majú za úlohu overovať a za ktoré ručia. Povedané slovami odborníka na medzinárodné vzťahy Roberta Coxa, klasifikácia a kvantifikácia sú vždy pre niekoho a na nejaký účel.22
Ale ako upozorňuje vedkyňa Helga Nowotny, ktorá sa zaoberá štúdiom vedy a techniky, ak „dôverujeme“ výsledkom algoritmických predpovedí ako zásadne pravdivým, nesprávne chápeme logiku hlbokých neurónových sietí. Tieto siete „dokážu rozpoznať pravidelnosti a identifikovať vzory len na základe údajov, ktoré pochádzajú z minulosti. Nejde o žiadne kauzálne uvažovanie, ani umelá inteligencia nepredstiera, že to tak je.“ 23
Akkoľvek tieto stroje môžu vytvárať „praktické a merateľné predpovede“, nemajú zmysel pre príčinu a následok – skrátka, nemajú „porozumenie“ v ľudskom zmysle.24 Okrem toho nás nadmerné spoliehanie sa na algoritmy tlačí k determinizmu, prispôsobuje naše správanie strojovým predpovediam namiesto alternatívnych ciest. To je problém v politických kultúrach založených na zodpovednosti. Ak sa chceme poučiť z minulosti a budovať lepšiu budúcnosť, nemôžeme sa spoliehať na prediktívne výstupy modelu strojového učenia.
AI déjà-vu
Pri skúmaní spletitej histórie technológií sledovania a identifikácie od 19. storočia až po súčasnosť by sa okrem spoločného a pretrvávajúceho spoliehania sa na kvantifikáciu a klasifikáciu dalo vychádzať z mnohých nitiek. Marginalizované, prebytočné skupiny obyvateľstva, ako sú odsúdení a kolonizovaní ľudia, sa dlho používali ako „technologické testovacie polia“ na zdokonaľovanie klasifikačných systémov a trénovanie algoritmov. Strach z nekontrolovanej mobility ľudí sa naďalej využíva ako hnacia sila výskumu a vývoja, pričom technológie sa zasa nasadzujú na riešenie problémov, ktoré samy vytvorili. A pozitivistické spoločenskovedné metódy sú aj naďalej nástrojom na prekladanie búrlivého množstva do úhľadných číselných hodnôt.
Miesto toho, aby sme prepadli hypu okolo umelej inteligencie, mohli by sme sa radšej naladiť na pocit déjà-vu: znepokojujúci pocit, že toto všetko sme už niekedy videli. Takto by sme mohli lepšie odolávať fantastickým tvrdeniam podnikových a hraničných aktérov a začať odpútavať technológie od globálnych projektov nadvlády.
**
Tento článok vychádza z výskumu realizovaného počas projektu „Elastické hranice: Rethinking the Borders of the 21st Century“ založený na Univerzite v Grazi, financovaný nadáciou NOMIS.
1 A. Bertillon, Instructons signalétiques, Melun, 1893, tab. 16, s. 262.
2 Som súčasťou tímu výskumníkov v rámci projektu Elastic Borders, Univerzita v Grazi, Rakúsko.
3 3: M. Maguire, "Biopower, Racialization and New Security Technology", Social Identities, Vol. 18, No.5, 2012, s. 593-607; K. Donnelly, "We Have Always Been Biased: Meranie ľudského tela od antropometrie po počítačové sociálne vedy", Public, roč. 30, č. 60, 2020, s. 20-33; A. Valdivia a M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, s. 840-50.Pozrite si tiež:
4 Ak boli odtlačky odobraté v Grécku, ale žiadateľ o azyl bol neskôr zadržaný v Nemecku, môže mu hroziť odsun do Grécka na spracovanie žiadosti.
5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa a D. Alaa, Vykonávanie prístupu EÚ k horúcim bodom v Grécku a Taliansku: A comparative and interdisciplinary analysis (working paper), Swiss Network for International Studies, 2021, s. 36.
6 J.B. Rule, Súkromné životy a verejný dohľad, Allen Lane, 1973.
7 Ibid., s. 91.
8 M. Foucault, Spoločnosť treba brániť. Prednášky na Collège de France, 1975-76, prekl. D. Macey, Picador, 2003, s. 244.
9 S. A. Cole, Podozrivé identity: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s. 12.
10 Ibid., s. 18-9.
11 Ibid., s. 34-45.
12 Ibid., s. 48.
13 M. Foucault, Riad vecí. Routledge, 1975.
14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.
15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.
16 S. Wynter, "Unsettling the coloniality of being/power/truth/freedom: K človeku, po človeku, jeho nadreprezentácii - argument", CR: The New Centennial Review, Vol. 3, No. 3, 2003, s. 257-337.
17 G. C. Bowker a S. L. Star, Triedenie vecí: Classification and its consequences, MIT press, 2000, s. 196.
18 L. Amoore, "The deep border", Politická geografia, 2001, 102547.
19 Ibid.
20 Galton uskutočnil podobnú štúdiu na židovských školských chlapcoch, pričom hľadal rasové markery židovstva.
21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.
22 R. W. Cox, "Sociálne sily, štáty a svetové poriadky: Beyond International Relations Theory", Millennium, Vol. 10, No. 2, 1981, s. 126-155.
23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, s. 22.
24 Ibid.
