A mozgó test mérése

Európa high-tech határtechnológiai arzenálját gyakran a fény, a sebesség és a számítási teljesítmény futurisztikus meséjeként mesélik el. Az olyan azonosítási rendszerek, mint az Eurodac adatbázis, a migránsok digitalizált ujjlenyomatait közeli infravörös fény, optikai szálak és központi szerverek segítségével tárolják, dolgozzák fel és hasonlítják össze. Drónok járőröznek az égen villogásmentes optikai érzékelőikkel. A nagy mennyiségű adatot pedig számítógépes programokba táplálják, amelyek megjósolják a következő érkezési hullámot.

Hírek és NGO jelentések az európai határok high-tech jellegére fókuszálva rengeteg a hír. Mindegyikből kiderül, hogy a megfigyelés, az elrettentés és az ellenőrzés távoli formái egyre inkább kiegészítik, sőt bizonyos esetekben felváltják a határőrizetet. Miközben az ilyen jellegű kutatás és érdekérvényesítés elengedhetetlen ahhoz, hogy az EU-t és a technológiai fejlesztőket felelősségre lehessen vonni a menedékkérőket a halálos migrációs útvonalak felé irányító szerepükért, elhallgatják e technológiák hosszú történelmét és a nyugati kormányzati apparátusokban betöltött szerepüket. Ez nem csak azt kockáztatja, hogy felerősíti a AI hype‘ a politikai döntéshozók és fejlesztők körében, akik ezeket az eszközöket úgy üdvözlik, mint az „intelligensebb” határok létrehozásának és a migránsok emberi jogainak védelmének eszközét. Ami még fontosabb, hogy ez a fajta történelmi amnézia az e technológiák által alkalmazott erőszakot és kirekesztést is félreértelmezheti, mint a „torzítás” technikai kérdését, amelyet pontosabb mérésekkel vagy nagyobb adathalmazokkal könnyen korrigálni lehet. Ehelyett az e technológiák által okozott károk nagy részét úgy kell értelmezni, mint a tervezésükben rejlő kárt.

Az azonosítás katalógusa

A fejlett technológiák alkalmazása az emberi mobilitás ellenőrzésére minden, csak nem újdonság. Képzeljünk el egy városi európai rendőrőrsöt a tizenkilencedik század végén. Ha az önkormányzat a legújabb azonosítási technológiát alkalmazta volna, a gyanúsítottakat bonyolult mérési folyamatnak vetették volna alá. Méreteik lejegyzése precíz és magasan specializált folyamat volt, amihez képzett és felkészült technikusra volt szükség.

Megfigyelhetjük ezeket utasításokat a fülméréshez:

<

A kezelő a műszer rögzített állkapcsát a fül felső széléhez hozza és rögzíti azt, bal hüvelykujját meglehetősen erősen a műszer állkapcsának felső végére nyomja, a kéz többi ujjával a koponya felső részén nyugszik. A mérőműszer szárát a fül tengelyével párhuzamosan tartva óvatosan addig nyomja a mozgatható állkapcsot, amíg az a lebeny alsó végéhez nem ér, és mielőtt leolvasná a jelzett számot, meggyőződik arról, hogy a fülkagylót [a fül külső részét] egyik állkapocs sem nyomja le.1

Ez az eljárás úgy hangozhat, mint egy furcsa, bár kissé különös relikvia a Fin de Siècle-ből, de minden, csak nem az. A Bertillonage, a mérési, osztályozási és archiválási rendszer, amelyet a névadó francia rendőrségi hivatalnok dolgozott ki az 1870-es években a bűnügyi azonosításhoz, mérföldkő volt a megfigyelési és azonosítási technológia történetében. Figyelemre méltó, hogy kulcsfontosságú alapelvei mind a mai napig az azonosítási technológiák alapját képezik, az adatbázisoktól a biometrián át a gépi tanulásig.

A különböző „nemkívánatos személyek” ellenőrizetlen áramlása körüli félelmek és a technológiai innováció között szoros és történelmileg kialakult kapcsolat áll fenn. A csavargás, a gyarmati kormányzás, a deviancia, az őrület és a bűnözés problémáinak kezelésére kifejlesztett és továbbfejlesztett tizenkilencedik századi technikák képezik a mai csúcstechnológiás határőrizeti apparátus alapjait. E technikák közé tartozik a számszerűsítés, amely az emberi testet kódként jeleníti meg, az osztályozás, valamint az indexelés és archiválás modern módszerei.

Modern invazív regisztráció

Az intelligens határrendszerek fejlett technológiákat alkalmaznak a „modern, hatékony és eredményes” határok létrehozására. Ebben az összefüggésben a fejlett technológiákat gyakran úgy ábrázolják, mint amelyek a határfolyamatokat, mint például az azonosítás, a regisztráció és a mobilitás ellenőrzése, tisztán technikai eljárássá alakítják, ezáltal igazságosabbá és az emberi hibázásra kevésbé hajlamossá teszik a folyamatot. Az algoritmikus pontosságot úgy jellemzik, mint az etikátlan politikai elfogultságok elkerülésének és az emberi hibák korrigálásának eszközét.

Az EU csúcstechnológiás határőrizeti apparátusának műszaki-tudományos alapjait kutatójaként 2 felismerem mind a kortárs határőrizeti gyakorlatok növekvő rugalmasságát, mind pedig az eszközök és gyakorlatok történelmileg kialakult módszertanát.3

Vegyük például az Eurodac-adatbázist, az uniós határigazgatás egyik sarokkövét. A 2003-ban létrehozott nyilvántartás a menedékkérők ujjlenyomatait tárolja az első belépésről szóló dublini rendelet végrehajtása érdekében.4 Az ujjlenyomatvétel és az interoperábilis adatbázisokba való felvétel szintén központi eszköz a migrációkezelés olyan legújabb megközelítéseiben, mint a hotspot-megközelítés, ahol a személyazonosság megállapítása eszközként szolgál a „megérdemelt” és a „nem megérdemelt” migránsok kiszűrésére.5

Az évek során mind az Eurodacban tárolt adatok típusa, mind a felhasználási módok bővültek: a hatókör kiszélesedett, hogy „tágabb migrációs célokat” szolgáljon, és ne csak a menedékkérőkről, hanem az illegális migránsokról is tároljon adatokat, hogy megkönnyítse kitoloncolásukat. Egy nemrégiben elfogadott javaslat az ujjlenyomatvételt kiegészítette az arcképekkel és az életrajzi adatokkal, beleértve a nevet, az állampolgárságot és az útlevéladatokat. Továbbá tizennégyről hat évre csökkentették azoknak a migránsoknak az alsó korhatárát, akiknek az adatait tárolni lehet.

2019 óta az Eurodac „interoperábilis” számos más uniós adatbázissal, amelyek a körözött személyekről, a külföldi lakosokról, a vízummal rendelkezőkről és más, a büntetőjogi, bevándorlási és menekültügyi hatóságok számára érdekes személyekről tárolnak információkat, hatékonyan összekapcsolva a büntető igazságszolgáltatást a migrációval, miközben jelentősen bővül az ezen adatokhoz való hozzáférés. Az Eurodac kulcsszerepet játszik az európai hatóságok számára, amit a „100%-os ujjlenyomatvételi arány” elérésére irányuló erőfeszítések is bizonyítanak: az Európai Bizottság arra ösztönözte a tagállamokat, hogy minden újonnan érkező személyt vegyenek fel az adatbázisba, szükség esetén fizikai kényszert és fogva tartást alkalmazva.

.

Bűncselekmények megjelölése

Míg a nemzetállamok évszázadok óta gyűjtenek adatokat a polgárokról adózás és katonai toborzás céljából, addig az adatok indexelése, adatbázisokba szervezése és osztályozása bizonyos kormányzati célokra – például a „nemkívánatos” népesség mobilitásának ellenőrzésére – a XIX. század találmánya. 6 Michel Foucault francia történész és filozófus leírja, hogy a növekvő urbanizáció és iparosodás összefüggésében az államokat egyre inkább foglalkoztatta a „forgalom” kérdése. A személyek és az áruk, valamint a kórokozók tovább keringtek, mint a kora újkorban. 7 Miközben az államok nem törekedtek arra, hogy teljesen elnyomják vagy ellenőrizzék ezeket a mozgásokat, olyan eszközöket kerestek, amelyekkel növelni tudták a „pozitív” keringést, és minimalizálták a „negatív” keringést. Ehhez a pozitivista társadalomtudomány újszerű eszközeit vetették be: a demográfia területén statisztikai megközelítéseket alkalmaztak az olyan jelenségek nyomon követésére és szabályozására, mint a születések, balesetek, betegségek és halálesetek.8 A kialakulóban lévő menedzser nemzetállam úgy kezelte a forgalom problémáját, hogy egy nagyon sajátos eszköztárat fejlesztett ki, amely részletes információkat gyűjtött össze a népességről, és szabványosított tárolási és elemzési módszereket dolgozott ki.

Az egyik különösen bosszantó probléma az ismert bűnözők forgalma volt. A tizenkilencedik században széles körben úgy vélték, hogy ha valaki egyszer bűncselekményt követett el, akkor újra bűncselekményt fog elkövetni. A bűnözők azonosítására rendelkezésre álló rendszerek azonban szánalmasan alkalmatlanok voltak a feladatra.

Mint Simon Cole kriminológus kifejti, egy ismeretlen személy azonosításához „valóban egyedi testjelre” van szükség.9 A modern azonosítási rendszerek megjelenése előtt azonban erre csak két lehetőség volt: a megbélyegzés vagy a személyazonosítás. Míg Európában és Észak-Amerikában széles körben alkalmazták a megbélyegzést az elítélteken, rabokon és rabszolgákon, a bűnözéssel és büntetéssel kapcsolatos fejlődő elképzelések a XIX. század elején nagyrészt a fizikai jelölés eltörléséhez vezettek. Helyette létrehozták a bűnügyi nyilvántartást: egy írásos dokumentumot, amely katalogizálta az elítélt nevét és személyének írásos leírását, beleértve az azonosító jeleket és hegeket.

A gyanúsított azonosítása pusztán az írásbeli leírás alapján azonban kihívásnak bizonyult. A rendszer pedig sebezhető volt az álnevek és a nevek eltérő írásmódjaival szemben: csak a közösségük által ismert személyt lehetett biztonsággal azonosítani. A korai bűnügyi azonosítási rendszerek alapvetően sebezhetőek voltak a mobilitással szemben.10 Ezek a problémák továbbra is kísértik a korabeli migrációkezelést, mivel az adatbázisok gyakran tartalmaznak több bejegyzést ugyanarra a személyre vonatkozóan, ami a neveknek az arab betűs írásmódról a római betűs írásmódra történő különböző átírásából ered.

A fényképezés feltalálása az 1840-es években nem sokat segített a bűnügyi azonosítás megbízhatóságának kérdésében. A fényképes felvétel nemcsak a személyes felismerésnek volt továbbra is alárendelve, hanem felvetette az archiválás kérdését is. A Bertillonage előtt a bűnügyi nyilvántartásokat vagy a bűncselekmények éves kompendiumai vagy az elkövetők betűrendes listái formájában tárolták. Bár a fényképek pontosabb képet adtak az arcról, nem volt mód arra, hogy vonások szerint archiválják őket. Ha valaki például egy kiemelkedő állú személyt akart keresni a nyilvántartásban, nem volt erre eljárás. Az elítéltek fényképeit az elkövető által megadott név alapján ábécérendben rendezték, és ezzel ugyanabban a gyengeségben szenvedtek, mint más azonosítási rendszerek.

A datálás őse

Alphonse Bertillon volt az első, aki megoldotta ezt a problémát az emberi test szisztematikus méréseinek az archiválással és nyilvántartással való összekapcsolásával. A kriminológus javította a nyilvántartások visszakereshetőségét azzal, hogy a bejegyzéseket nem ábécé, hanem szám szerint rendezte, és egy olyan indexelési rendszert hozott létre, amely teljes egészében antropomorf méréseken alapult. Az indexkártyákat hierarchikus osztályozási rendszer szerint rendezték, az információkat először nemek, majd fejhossz, fejszélesség, középső ujjhossz és így tovább szerint osztották fel. A mérések minden egyes csoportját a népességen belüli eloszlásuk statisztikai értékelése alapján csoportokra osztották, az átlagokat pedig az elítéltektől vett mérések alapján állapították meg. A Bertillon operátora egy gyanúsított profilját vitte az archívumba, és egy kizárási folyamaton keresztül kereste az egyezést: először kizárta a nemet, amelyik nem egyezett, majd a fejhosszúságot, amelyik nem egyezett, és így tovább. Ha találtak egy előzetes egyezést, akkor azt a kártyán is szereplő testi jegyek alapján megerősítették. Ahol ezt a rendszert bevezették, ott a „visszaesők” felismerési aránya az egekbe szökött; Bertillon rendszere hamarosan világszerte elterjedt.11

Bertillonnal a korabeli határ- és megfigyelési technológia egy másik jellemzője is belépett a képbe: a számszerűsítés, vagy amit ma „adatosításnak” neveznek. Bertillon nemcsak a foglyok magasságát és fejhosszát mérte, hanem feltalált egy módszert, amellyel a test jellegzetes vonásait kódra lehetett lefordítani. Ha például egy rabnak sebhely volt az alkarján, a korábbi bűnügyi azonosítási rendszerek ezt egyszerűen bejegyezték volna az aktába. Ezzel szemben Bertillon megmérte a távolságot egy adott referenciaponttól. Ezeket aztán szabványosított módon rögzítették, egy olyan rövidítésekből és szimbólumokból álló nyelvezetet használva, amely ezeket a leírásokat rövidített formában adta vissza. Az így létrejött portrait parlé, vagyis beszélt portré a fizikai testet „szavak, számok és kódolt rövidítések” „univerzális nyelvére” írta át.12 A történelemben először lehetett pontos tárgyleírást táviratilag megadni.

A test kóddá történő lefordítása még mindig a biometrikus azonosítás kortárs módszereinek alapját képezi. Az ujjlenyomat-azonosító rendszerek, amelyeket először a gyarmati Indiában próbáltak ki és vezettek be, a papilláris gerincek mintáit kóddá alakították, amelyet aztán össze lehetett hasonlítani más, ugyanilyen módon generált kódokkal. Az arcfelismerő technológia az arc sematikus ábrázolását állítja elő, és számértékeket rendel hozzá, lehetővé téve ezáltal az összehasonlítást és a párosítást. A biometrikus azonosítás más formái, mint a hangazonosítás, az íriszszkennelés és a járásfelismerés ugyanezt az elvet követik.

A taxonómiától a gépi tanulásig

A számszerűsítés mellett az osztályozás – amely évszázadok óta a tudásgenerálás és -irányítás kulcsfontosságú eszköze – a modern és kortárs megfigyelési és azonosítási technológiák másik jellemzője. Amint azt Foucault-tól13 -ig, Zygmunt Bauman14 -ig és Denise Ferreira da Silva15  számos tudós megjegyezte, az osztályozás az európai felvilágosodás egyik központi eszköze, amit legikonikusabban Carl Linné taxonómiája bizonyít. Linnaeus az általa készített osztályozó táblázatban megnevezte, osztályozta és hierarchikusan rendezte a természeti világot a növényektől a rovarokon át az emberekig, az egyes csoportokat közös tulajdonságok alapján felosztva és alábontva. Az osztályozást és a taxonómiákat széles körben a kora újkorban a teocentrikusról a racionalista ismeretelméletre való alapvető ismeretelméleti váltás kifejeződésének tekintik, amely lehetővé tette a tudományos áttöréseket, de egyúttal a gyarmatosításhoz és a leigázáshoz is kötődött.16 Geoffrey Bowker és Susan Leigh Star a témával foglalkozó könyvükben kiemelik, hogy az osztályozás a politikai rendezés erőteljes, de gyakran fel nem ismert eszközeként szolgál: „A politikai és társadalmi töltésű napirendek gyakran először tisztán technikai jellegűnek mutatkoznak, és még csak nehezen is észrevehetőek. Ahogy az osztályozási rendszer rétegei beépülnek egy működő infrastruktúrába, az eredeti politikai beavatkozás egyre szilárdabban rögzül. Ez sok esetben a politikai kategória természetessé válásához vezet, a konvergencia folyamatán keresztül. Magától értetődővé válik.”17

A klasszifikáció napjainkban központi szerepet játszik a gépi tanulásban, a mesterséges intelligencia azon részterületében, amelynek célja, hogy nagy mennyiségű adatban mintákat fedezzen fel. Ez nemcsak hatalmas mennyiségű információ kategorizálását teszi lehetővé, hanem új, korábban nem látott adatok előrejelzését és osztályozását is. Más szóval, a tanult tudást új helyzetekre alkalmazza. Bár a gépi tanulással kapcsolatos kutatások a múlt század közepén kezdődtek, a közelmúltban soha nem látott jelentőségre tett szert az olyan alkalmazásokkal, mint a ChatGPT.

A gépi tanulást egyre gyakrabban alkalmazzák a határmunkában is. Ritkán használják önálló technológiaként, de széles körben alkalmazzák a meglévő technológiákon keresztül, hogy kiegészítsék és felgyorsítsák a felügyelet, az azonosítás és a válogatás régóta bevett formáit. Például, az algoritmikus előrejelzés, amely nagy mennyiségű adatot elemez, beleértve a mozgásmintákat, a közösségi médiában közzétett bejegyzéseket, politikai konfliktusokat, természeti katasztrófákat és egyebeket, egyre inkább felváltja a statisztikai migrációs modellezést a migrációs minták feltérképezése céljából. Az Európai Bizottság jelenleg finanszírozza az algoritmikus módszerek kutatását amely szélesebb adatforrások felhasználásával bővítené a kockázatelemzés meglévő formáit a „kockázatos” magatartás újszerű formáinak azonosítása érdekében. A gépi tanulást a következőkben is kipróbálják vagy alkalmazzák: „hazugságvizsgáló” határőrök, dialektusfelismerés, gyanús hajók nyomon követése és azonosítása, arcfelismerés az EU belső határain és a görög táborok foglyainak viselkedéselemzése. Ahogy az alkalmazások e széles skálája is mutatja, úgy tűnik, nincs olyan határtechnológia, amely mentesülne a gépi tanulástól, legyen szó akár drónfelvételek képelemzésének segítéséről, akár menedékkérelmek ellenőrzéséről.

A gépi tanulás – vagy legalábbis az adatvezérelt gépi tanulás típusa, amely napjainkban uralkodóvá vált – középpontjában a klasszifikáció áll. Az egyes adatpontokat kategóriákba és alkategóriákba rendezik, amely folyamatot vagy felügyelt vagy felügyelet nélküli tanulással végzik. A felügyelt tanulás során a képzési adatokat egy előre meghatározott taxonómia szerint címkézik. A gyakorlatban ez általában azt jelenti, hogy az emberek címkéket rendelnek az adatokhoz, például „kutya” az említett kutya képéhez. A gépi tanulási modell ebből a címkézett adathalmazból tanul a címkékkel korreláló minták azonosításával. A felügyelet nélküli tanulás során az adatokat nem ember címkézi. Ehelyett az algoritmus önállóan azonosítja a mintákat és struktúrákat az adatokban. Más szóval, az algoritmus az adatokat úgy osztályozza, hogy saját klasztereket hoz létre az adathalmazban rejlő minták alapján. Létrehozza saját kategóriataksonómiáját, amely vagy egyezik, vagy nem egyezik az ember által létrehozott rendszerekkel.

A feltételezett bűnözői típus

Amint arra Louise Amoore, a mesterséges intelligencia- és határkutató rámutat, az algoritmikus klaszterek mint az adatokból származó eredendő, „természetes” minták reprezentációja „rendkívül erőteljes politikai ajánlat”, mivel „a politikai közösség semleges, objektív és értékmentes létrehozásának és határolásának ígéretét kínálja”.18 Az algoritmikus klaszterek „természetes közösségként” való elképzelése jelentős rasszizáló lépést tartalmaz: az irreguláris migrációval összefüggő magatartásformákat következésképpen „kockázatosnak” bélyegzik.  Mivel ezeket a klasztereket előre meghatározott kritériumok – például a faj „klasszikus” helyettesítői, mint a nemzetiség vagy a vallás – nélkül alakítják ki, nehéz őket olyan meglévő fogalmakkal megkérdőjelezni, mint a védett tulajdonságok vagy az előítéletesség.19 Például egy migránst egy gépi tanulási algoritmus az utazási útvonalak, a közösségi médiába tett bejegyzések, a személyes és szakmai hálózatok és az időjárási minták közötti átláthatatlan összefüggés alapján biztonsági kockázatként azonosíthat.

A kategóriák eredendő tulajdonságok szerinti létrehozása más XIX. századi gyakorlatokat idéz, és azokon túlmutat: nevezetesen egy sor olyan tudományos törekvést, amelyek a mérést és a statisztikát használják a bűnös viselkedésre utaló szabályszerűségek és minták azonosítására. A nem felügyelt gépi tanuláshoz hasonlóan a kraniometria, a frenológia és a bűnügyi antropológia szisztematikusan gyűjtött adatokat emberi alanyokról, hogy olyan mintázatokat gyűjtsenek, amelyeket a bűnözésre vonatkozó kategóriákba lehetett sorolni.

A frenológusok, mint például Franz Joseph Gall, bizonyos személyiségjegyeket a koponya egyes régióinak kiemelkedéséhez kötöttek. A fiziognómia kapcsolódó területén olyan személyiségek, mint Johann Kaspar Lavater svájci lelkész, az arcvonások szisztematikus tanulmányozására vállalkoztak, mint a bűnözői magatartás irányadójára. A fényképezés fejlődésének hatására az arcon megjelenő bűnözésre utaló jeleket vizsgáló tanulmányok egyre nagyobb teret nyertek, és az elítélteket és az elmegyógyintézetek lakóit többször alávetették ilyen „tanulmányoknak”. Frances Galton, az eugenikai mozgalom megalapítója és az ujjlenyomat-azonosítás úttörőjének kompozitfotói jól példázzák ezt: az elítéltek képeit egymás fölé helyezték, hogy a bűnözés fizikai jelzőiként szabályszerűségeket állapítsanak meg.20

A bűnügyi antropológia ezeket a megközelítéseket egy koherens kísérletté konszolidálta, hogy a bűnügyi testet tudományos vizsgálatnak vesse alá. Az olasz pszichiáter és antropológus, Cesare Lombroso vezetésével a bűnügyi antropológusok az antropomorf mérési eszközök széles skáláját használták, Bertillon pontos végtagméréseitől kezdve a koponyaméréseken át a koponyamérésekig, az arcvonások feltérképezéséig és az olyan jellegzetes jegyek feljegyzéséig, mint a hegek és tetoválások. Ennek alapján sorolták fel az úgynevezett „stigmák” vagy a „született bűnöző” testén fellelhető fizikai szabályszerűségek listáját.

Bár ez a felfogás ma már széles körben hiteltelenné vált, az alapul szolgáló, tömeges adatjellemzőkön alapuló osztályozási módszer még mindig létezik.

Az arcvonások mennyiségi elemzéséből levont következtetésekben való bizalom továbbra is erős csábítást jelent. Egy 2016-os tanulmány azt állította, hogy sikeresen betanított egy mély neurális hálózati algoritmust a bűnözés előrejelzésére jogosítványokból származó fejképek alapján, míg egy 2018-as tanulmány hasonló állításokat tett a szexuális orientáció társkereső oldalak fotóiból való kiolvasásáról.

Amikor kritikusan foglalkozunk ezekkel a rendszerekkel, feltétlenül szem előtt kell tartanunk azt a nagyobb politikai projektet, amelynek fenntartására ezeket a rendszereket bevetik. Ahogy Kate Crawford, a mesterséges intelligencia kutatója írja: „A koponya morfológiájának az intelligenciával és a törvényes jogokkal való összefüggésbe hozása a gyarmatosítás és a rabszolgaság technikai alibijeként szolgál. Miközben hajlamosak vagyunk a koponyamérések hibáira és azok korrigálására összpontosítani, a sokkal nagyobb hiba a módszertan alapjául szolgáló világnézetben rejlik. A cél tehát nem az kellene legyen, hogy pontosabb vagy „tisztességesebb” koponyaméréseket követeljünk az intelligencia rasszista modelljeinek alátámasztására, hanem hogy teljes egészében elítéljük ezt a megközelítést.”21 Másképpen fogalmazva, az osztályozási és számszerűsítési technikákat nem lehet elválasztani azoktól a társadalmi-politikai összefüggésektől, amelyek ellenőrzésére és garantálására hivatottak. Robert Cox nemzetközi kapcsolatokkal foglalkozó tudóst idézve, az osztályozás és a számszerűsítés mindig valakinek és valamilyen célból történik.22

Mégis, ahogyan Helga Nowotny tudományos és technológiai tanulmányok kutatója figyelmeztet, ha az algoritmikus előrejelzés eredményeiben alapvetően igaznak „bízunk”, akkor félreértjük a mély neurális hálózatok logikáját. Ezek a hálózatok „csak a múltból származó adatok alapján képesek szabályszerűségeket felismerni és mintákat azonosítani. Nem vesznek részt ok-okozati következtetésben, és az AI nem is tesz úgy, mintha így lenne.” 23

Míg ezek a gépek „praktikus és mérhető előrejelzéseket” készíthetnek, nincs érzékük az ok és okozathoz – röviden, nincs „megértésük” emberi értelemben.”24 Továbbá az algoritmusokra való túlzott hagyatkozás a determinizmus felé taszít minket, a viselkedésünket a gépi előrejelzéshez igazítja az alternatív utak helyett. Ez problémát jelent az elszámoltathatóságon alapuló politikai kultúrákban. Ha tanulni akarunk a múltból, hogy jobb jövőt építsünk, nem támaszkodhatunk egy gépi tanulási modell előrejelző eredményeire.

AI déjà-vu

A számszerűsítésre és osztályozásra való közös és folyamatos támaszkodáson kívül sok más szálon is lehetne húzni, hogy feltárjuk a megfigyelési és azonosítási technológiák összefonódott történetét a tizenkilencedik századtól napjainkig. A marginalizált, többletpopulációkat, például az elítélteket és a gyarmatosított embereket régóta „technológiai tesztpályaként” használják az osztályozó rendszerek csiszolására és az algoritmusok betanítására. Az ellenőrizetlen emberi mobilitástól való félelem továbbra is a kutatás és fejlesztés mozgatórugójaként szolgál, a technológiát pedig a saját maga által okozott problémák megoldására használják. A pozitivista társadalomtudományi módszerek pedig továbbra is hozzájárulnak ahhoz a feladathoz, hogy az üvöltő sokféleséget tiszta, számszerű értékekké alakítsuk.

Ahelyett, hogy bedőlnénk a mesterséges intelligencia hype-nak, inkább a déjà-vu érzésre hangolódhatnánk: arra a nyugtalanító érzésre, hogy mindezt már láttuk korábban. Így talán jobban ellenállhatnánk a vállalati és határon túli szereplők fantasztikus állításainak, és elkezdhetnénk függetleníteni a technológiákat a globális uralmi projektektől.

**

Ez a cikk a „Elasztikus határok: A 21. század határainak újragondolása’ a grazi egyetemen, a NOMIS alapítvány finanszírozásával.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, 16. tábla, 262. o.

2 A NOMIS által finanszírozott Elastic Borders projekt kutatócsoportjának tagja vagyok, Graz Egyetem, Ausztria.

3 Lásd még: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Measuring the human body from anthropometry to the computational social sciences', Public, Vol. 30, No. 60, 2020, pp. 20-33; A. Valdivia and M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects", in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Ha az ujjlenyomatokat Görögországban vették, de a menedékkérőt később Németországban elfogták, akkor a kérelem elbírálása miatt Görögországba való kitoloncolással számolhat.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa és D. Alaa, Az uniós hotspot-megközelítés végrehajtása Görögországban és Olaszországban: A comparative and interdisciplinary analysis (working paper), Swiss Network for International Studies, 2021, p. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., 91. o.

8 M. Foucault, A társadalmat meg kell védeni. Előadások a Collège de France-ban, 1975-76, ford. D. Macey, Picador, 2003, 244. o.

9 S. A. Cole, Suspect identities: A history of fingerprinting and criminal identification, Harvard University Press, 2001, 12. o.

10 Ibid., pp. 18-9.

11 Ibid., pp. 34-45.

12 Ibid., 48.o.

13 M. Foucault, A dolgok rendje. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'A lét/hatalom/igazság/szabadság gyarmatosításának elbizonytalanítása: Towards the human, after man, its overrepresentation - an argument", CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker és S. L. Star, Sortírozás: Classification and its consequences, MIT press, 2000, p. 196.

18 L. Amoore, 'The deep border', Politikai földrajz, 2001, 102547.

19 Ibid.

20 Galton hasonló vizsgálatot végzett zsidó iskolás fiúkon, a zsidóság faji markereit keresve.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, pp. 126-7.

22 R. W. Cox, "Társadalmi erők, államok és világrendek: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, p. 22.

24 Ibid.