Мерење покретног тела

Европски високотехнолошки арсенал граничних технологија често се прича као футуристичка прича о светлости, брзини и рачунарској снази. Системи за идентификацију као што је Еуродац база података чувају, обрађују и упоређују дигитализоване отиске прстију миграната користећи блиску инфрацрвену светлост, оптичке каблове и централизоване сервере. Дронови патролирају небом својим оптичким сензорима који не трепћу. И велике количине података се достављају компјутерским програмима који предвиђају следећи пораст броја долазака.

Новинске приче и извјештаји невладиних организација који се фокусирају на високотехнолошку природу европских граница обилују. Сваки од њих открива како даљински облици надзора, одвраћања и контроле све више допуњују и, у одређеним случајевима, замењују гранична утврђења. Иако је ова врста истраживања и заговарања од суштинске важности да би ЕУ и технолошки програмери били одговорни за њихову улогу у усмеравању тражилаца азила ка смртоносним миграционим рутама , она прикрива дугу историју ових технологија и њихову успостављену улогу у западним апаратима управљања. Ово не само да ризикује да се појача „ бума о вештачкој интелигенцији “ међу креаторима политике и програмерима, који поздрављају ове алате као средство и за стварање „паметнијих“ граница и за заштиту људских права миграната . Што је још важније, ова врста историјске амнезије такође може погрешно протумачити насиље и искључења које доносе ове технологије као технички проблем „пристрасности“ који се лако исправља прецизнијим мерењима или већим скуповима података. Уместо тога, велики део штете коју изазивају ове технологије треба схватити као својствену њиховом дизајну.

Каталог идентификације

Примена напредних технологија за контролу људске мобилности је све само не ново. Замислите урбану европску полицијску станицу крајем деветнаестог века. Да је општина усвојила најновију технологију идентификације, осумњичени би били подвргнути сложеном процесу мерења. Снимање њихових мерења је био прецизан и високо специјализован процес, који је захтевао вешт и обучен техничар.

Узмите у обзир ова упутства за мерење уха :

Оператер поставља фиксирану вилицу инструмента на горњу ивицу уха и имобилише је, притискајући леви палац прилично чврсто на горњи крај вилице инструмента, док су остали прсти шаке наслоњени на врх лобање. Дршком чељусти паралелно са осом уха, он лагано гура покретну вилицу док не додирне доњи крај режња и, пре очитавања назначеног броја, уверава се да је пинна (спољни део ува) ни на који начин депресиван ни од једне вилице. 1

Овај процес може звучати као чудан, али помало радознао реликт Фин де Сиецлеа, али је све само не. Бертиљонаж, систем мерења, класификације и архивирања за идентификацију криминалаца који је 1870-их осмислио истоимени француски полицијски службеник, био је прекретница у историји технологије надзора и идентификације. Занимљиво је да његови кључни принципи подржавају технологије идентификације до данас, од базе података до биометрије и машинског учења.

Између страхова од неконтролисаног кружења разних ‘непожељних’ и технолошких иновација постоји блиска и историјски утврђена веза. Технике деветнаестог века, развијене и рафинисане да би се позабавиле проблемима око скитнице, колонијалне управе, девијантности, лудила и криминала, су темељи данашњег високотехнолошког апарата за надзор граница. Ове технике укључују квантификацију, која људско тело представља као код, класификацију и модерне методе индексирања и архивирања.

Савремена инвазивна регистрација

Паметни гранични системи користе напредне технологије за стварање „ модерних, ефикасних и ефикасних “ граница. У овом контексту, напредне технологије се често приказују као превођење граничних процеса као што су идентификација, регистрација и контрола мобилности у чисто техничку процедуру, чиме се процес чини праведнијим и мање подложним људској погрешности. Алгоритамска прецизност је окарактерисана као средство за избегавање неетичких политичких пристрасности и исправљање људске грешке.

Као истраживач технонаучне основе високотехнолошког граничног апарата ЕУ, 2 препознајем како растућу еластичност савремених граничних пракси, тако и историјски успостављену методологију њених алата и пракси. 3

Узмимо за пример базу података Еуродац , камен темељац управљања границама у ЕУ. Основан 2003. године, индекс чува отиске прстију тражилаца азила као примену Даблинске уредбе о првом уласку. 4 Узимање отисака прстију и упис у интероперабилне базе података су такође централни алати који се користе у недавним приступима управљању миграцијама, као што је приступ Хотспот, где приписивање идентитета служи као средство за филтрирање „заслужних“ миграната од „незаслужних“. 5

Током година, и тип података који се чува у Еуродац-у и његова употреба су се проширили: његов обим је проширен како би служио у „ шире сврхе миграције “, чувајући податке не само о тражиоцима азила већ и о нерегуларним мигрантима како би се олакшала њихова депортација. Недавно прихваћен предлог је додао слике лица и биографске податке, укључујући име, националност и податке о пасошу, уз отиске прстију. Такође, минимална старост миграната чији се подаци могу чувати је смањена са четрнаест на шест година.

Од 2019. године Еуродац је „ интероперабилан “ са бројним другим базама података ЕУ у којима се чувају информације о траженим лицима, страним резидентима, власницима виза и другим лицима од интереса за администрацију кривичног правосуђа, имиграције и азила, ефективно повезујући кривично правосуђе са миграцијом, а истовремено се значајно шири приступ овим подацима. Еуродац игра кључну улогу за европске власти, што показују напори да се постигне „100% стопа узимања отисака прстију“: Европска комисија је подстакла државе чланице да упишу сваку новопридошлу особу у базу података, користећи физичку принуду и притвор ако је потребно .

Обележавање криминалитета

Док су националне државе вековима прикупљале податке о грађанима за потребе опорезивања и регрутације војске, њихово индексирање, организовање у базама података и класификација за посебне владине сврхе – као што је контрола мобилности „непожељних“ популација – је изум из деветнаестог века. . 6 Француски историчар и филозоф Мишел Фуко описује како су, у контексту растуће урбанизације и индустријализације, државе постале све више заокупљене питањем ‘циркулације’. Људи и добра, као и патогени, циркулисали су даље него што су имали у раном модерном периоду. 7 Иако државе нису настојале да у потпуности потисну или контролишу ове покрете, оне су тражиле средства да повећају оно што се сматрало „позитивном“ циркулацијом и минимизирају „негативну“ циркулацију. У ту сврху су применили нове алате позитивистичке друштвене науке: статистички приступи су коришћени у области демографије за праћење и регулисање појава као што су рођења, несреће, болести и смрти. 8 Менаџерска национална држава у настајању позабавила се проблемом циркулације тако што је развила веома посебан комплет алата који је прикупљао детаљне информације о становништву и развијао стандардизоване методе складиштења и анализе.

Један посебно узнемирујући проблем био је кружење познатих криминалаца. У деветнаестом веку било је широко распрострањено веровање да ако се човек једном увреди, увредиће поново. Међутим, доступни системи за идентификацију криминалаца били су ужасно неадекватни за задатак.

Како објашњава криминолог Сајмон Кол, за идентификацију непознате особе потребан је „заиста јединствен жиг на телу“. 9 Ипак, пре појаве модерних система идентификације, постојала су само два начина да се то уради: брендирање или лично препознавање. Док је жигосање било широко коришћено у Европи и Северној Америци за осуђенике, затворенике и поробљене људе, еволуирајуће идеје о криминалу и кажњавању су у великој мери довеле до укидања физичког обележавања почетком деветнаестог века. На њеном месту је успостављена казнена евиденција: писани документ у коме је каталогизирано име осуђеника и писани опис његове личности, укључујући идентификационе ознаке и ожиљке.

Међутим, идентификација осумњиченог само на основу писаног описа показала се изазовном. А систем је био рањив на употребу алијаса и различитих писања имена: само особа позната њиховој заједници могла се са сигурношћу идентификовати. Рани системи криминалне идентификације били су у основи рањиви на мобилност. 10 Приметно је да су ови проблеми наставили да опседају савремено управљање миграцијама, пошто базе података често садрже више уноса за исту особу као резултат различитих транслитерација имена са арапског на римско писмо.

Проналазак фотографије 1840-их није много допринео да се реши питање поузданости идентификације криминалаца. Не само да је фотографски запис још увек био обавезан за лично препознавање, већ је покренуо и питање архивирања. Кривична евиденција пре Бертилонажа чувана је или као годишњи зборник злочина или као абецедни спискови преступника. Док су фотографије пружале прецизнији приказ лица, није било начина да се архивирају према карактеристикама. Ако је неко желео да претражи индекс за, рецимо, особу са истакнутом брадом, није било процедуре за то. Фотографије осуђеника су поређане по абецедном реду према имену које је дао починилац, па су тако патиле од исте слабости као и други системи идентификације.

Предак Датафикације

Алпхонсе Бертиллон је први решио овај проблем комбиновањем систематских мерења људског тела са архивирањем и вођењем евиденције. Криминолог је побољшао проналажење записа сортирајући уносе нумерички, а не по абецедном реду, креирајући систем индексирања који се у потпуности заснива на антропоморфним мерењима. Индексне картице су организоване према хијерархијском систему класификације, са информацијама прво подељеним по полу, затим по дужини главе, ширини главе, дужини средњег прста и тако даље. Сваки сет мерења подељен је у групе на основу статистичке процене њихове дистрибуције у популацији, са просецима утврђеним мерењем осуђеника. Оператер Бертиљона би однео профил осумњиченог у архиву и тражио подударање кроз процес елиминације: прво, искључујући секс који се не поклапа, затим дужине главе које се не поклапају, и тако даље. Ако је пронађено пробно подударање, то је потврђено у вези са телесним траговима који су такође наведени на картици. Где год је овај систем примењен, стопа препознавања ‘рецидивиста’ је порасла; Бертијонов систем се убрзо проширио широм света. 11

Са Бертиљоном, још једно обележје савремене технологије за надзор граница и надзора ушло је у оквир: квантификација, или оно што је данас познато као ‘датафикација’. Бертијон није само мерио висину и дужину главе затвореника, већ је измислио метод за превођење карактеристичних особина тела у шифру. На пример, да је затвореник имао ожиљак на подлактици, претходни системи криминалистичке идентификације би то једноставно забележили у досијеу. Насупрот томе, Бертиљон је измерио њихову удаљеност од дате референтне тачке. Они су затим снимљени на стандардизован начин користећи идиом скраћеница и симбола који су ове описе пренели у скраћеном облику. Настали портретни парле, или говорни портрет, транскрибовао је физичко тело на „универзални језик“ „речи, бројева и кодираних скраћеница“. 12 По први пут у историји, прецизан опис предмета могао се телеграфисати.

Превођење тела у шифру још увек подразумева савремене методе биометријске идентификације. Системи за идентификацију отисака прстију који су први пут испробани и уведени у колонијалну Индију претворили су узорке папиларног гребена у код, који се затим могао упоредити са другим кодовима генерисаним на исти начин. Технологија препознавања лица производи шематске приказе лица и додељује му нумеричке вредности, омогућавајући на тај начин поређење и упаривање. Други облици биометријског ИД-а као што су гласовни ИД, скенирање шаренице и препознавање хода прате исти принцип.

Од таксономије до машинског учења

Поред квантификације, класификација – кључни инструмент генерисања знања и управљања вековима – је још једно обележје модерних и савремених технологија надзора и идентификације. Као што су приметили многи научници од Фоуцаулта 13 до Зигмунта Баумана 14 и Денисе Ферреира да Силва 15 , класификација је централно оруђе европског просветитељства, о чему највише сведочи таксономија Карла Линеа. У својој дипломираној табели, Линнаеус је именовао, класификовао и хијерархијски уредио природни свет од биљака до инсеката до људи, поделивши и поделивши сваку групу према заједничким карактеристикама. Класификација и таксономије се широко виде као израз фундаменталних епистемолошких помака од теоцентричне ка рационалистичкој епистемологији у раној модерној ери, која је омогућила научна открића, али је такође била везана за колонизацију и поробљавање. 16 У својој књизи о овој теми, Џефри Боукер и Сузан Ли Стар наглашавају употребу класификације као моћног, али често непризнатог инструмента политичког уређења: „Политички и друштвено набијени програми се често прво представљају као чисто технички и тешко их је чак ни видети. Како се слојеви система класификације увијају у функционалну инфраструктуру, првобитна политичка интервенција постаје све чвршће укоријењена. У многим случајевима, то доводи до натурализације политичке категорије, кроз процес конвергенције. То се узима здраво за готово.’ 17

Данас је класификација централна за машинско учење, подпоље вештачке интелигенције дизајнирано да разазнаје обрасце у великим количинама података. Ово му омогућава не само да категорише огромне количине информација, већ и да предвиди и класификује нове, раније невидљиве податке. Другим речима, примењује научено знање на нове ситуације. Док је истраживање о машинском учењу почело средином прошлог века, оно је недавно дошло до невиђене важности са апликацијама као што је ЦхатГПТ.

Машинско учење се такође све више примењује у граничном раду. Ретко се користи као самостална технологија, али се широко примењује у постојећим технологијама да би се увећали и убрзали давно успостављени облици надзора, идентификације и сортирања. На пример, алгоритамско предвиђање , које анализира велике количине података, укључујући обрасце кретања, објаве на друштвеним мрежама, политичке сукобе, природне катастрофе и још много тога, све више замењује статистичко моделирање миграције у сврху цртања миграционих образаца. Европска комисија тренутно финансира истраживање алгоритамских метода које би прошириле постојеће облике анализе ризика коришћењем ширих извора података како би се идентификовали нови облици ‘ризичног’ понашања. Машинско учење се такође или тестира или користи у граничним стражама „детектора лажи“ , препознавању дијалеката , праћењу и идентификацији сумњивих пловила , препознавању лица на унутрашњим границама ЕУ и анализи понашања затвореника у грчким логорима . Као што овај широк спектар примена илуструје, чини се да не постоји гранична технологија изузета од машинског учења, било да се ради о анализи слика помоћу дронова или провјера захтјева за азил.

Класификација лежи у сржи машинског учења – или барем врсте машинског учења заснованог на подацима које је данас постало доминантно. Појединачне тачке података су организоване у категорије и поткатегорије, процес који се спроводи било кроз надгледано или ненадгледано учење. У надгледаном учењу, подаци о обуци су означени према унапред дефинисаној таксономији. У пракси, то обично значи да људи додељују ознаке подацима као што је ‘пас’ слици наведеног пса. Модел машинског учења учи из овог означеног скупа података тако што идентификује обрасце који су у корелацији са ознакама. У учењу без надзора, људи не обележавају податке. Уместо тога, алгоритам независно идентификује обрасце и структуре унутар података. Другим речима, алгоритам класификује податке креирањем сопствених кластера на основу образаца својствених скупу података. Он ствара сопствену таксономију категорија, која може, али и не мора бити усклађена са системима које је створио човек.

Наводни криминални тип

Као што АИ и граничар Луиз Амур истиче, извођење алгоритамских кластера као репрезентације инхерентних, „природних“ образаца из података је „изузетно моћан политички предлог“ јер „нуди обећање неутралног, објективног и без вредности стварања и граница политичке заједнице’. 18 Идеја о алгоритамском кластеру као „природној заједници“ обухвата значајан расистички потез: облици понашања који су повезани са нерегуларном миграцијом су последично означени као „ризични“. Пошто се ови кластери формирају без позивања на унапред дефинисане критеријуме, као што су ‘класични’ заступници за расу попут националности или вере, тешко их је оспорити постојећим концептима као што су заштићене карактеристике или пристрасност. 19 На пример, мигрант се може идентификовати као безбедносни ризик помоћу алгоритма машинског учења заснованог на непрозирној корелацији између рута путовања, објава на друштвеним медијима, личних и професионалних мрежа и временских образаца.

Стварање категорија према инхерентним атрибутима одјекује и проширује се на друге праксе из деветнаестог века: наиме, низ научних подухвата који користе мерење и статистику да би се идентификовале правилности и обрасци који би указивали на криминално понашање. Попут машинског учења без надзора, области краниометрије, френологије и криминалне антропологије систематски су акумулирале податке о људским субјектима како би прикупили обрасце који би могли бити разврстани у категорије криминала.

На пример, френолози попут Франца Џозефа Гала повезивали су специфичне особине личности са истакнутошћу региона лобање. У сродној области физиономије, личности попут швајцарског пастора Јохана Каспара Лаватера предузеле су систематско проучавање црта лица као водича за криминално понашање. Подстакнуте развојем фотографије, студије које истражују знаке криминала на лицу добиле су на снази, при чему су осуђеници и затвореници азила у више наврата били подвргнути таквим „проучавањима“. Композитне фотографије Френсис Галтон, оснивача еугеничког покрета и пионира идентификације отисака прстију, су пример: слике осуђеника су наложене једна на другу да би се сагледале правилности као физички маркери криминала. 20

Криминална антропологија је ове приступе консолидовала у кохерентан покушај да се злочиначко тело подвргне научној контроли. Под вођством италијанског психијатра и антрополога Чезара Ломброза, криминални антрополози су користили широк спектар антропоморфних алата за мерење, од Бертијонових прецизних мерења удова до краниометријских мерења лобање, мапирања црта лица и уочавања карактеристичних трагова попут ожиљака и тетоважа. На основу тога, они су набројали листу такозваних ‘стигмата’ или физичких правилности пронађених у телу ‘рођеног криминалца’ Иако је овај појам данас широко дискредитован, основни метод класификације заснован на карактеристикама масовних података и даље постоји.

Веровање у закључке извучене из квантитативне анализе црта лица остаје јака привлачност. Рад из 2016. тврди да је успешно обучио алгоритам дубоке неуронске мреже за предвиђање криминала на основу снимака главе са возачких дозвола, док је студија из 2018. износила сличне тврдње о читању сексуалне оријентације са фотографија са сајтова за упознавање.

Када се критички бавите овим системима, императив је да останете свесни већег политичког пројекта који су распоређени да подрже. Као што пише научница АИ Кејт Крофорд: „Корелација морфологије лобање са интелигенцијом и захтевима за законска права делује као технички алиби за колонијализам и ропство. Иако постоји тенденција да се фокусира на грешке у мерењу лобање и како их исправити, далеко већа грешка је у основном погледу на свет који је анимирао ову методологију. Циљ, дакле, не би требало да буде позивање на тачније или „поштеније“ мерење лобање како би се учврстили расистички модели интелигенције, већ да се тај приступ у потпуности осуди.’ 21 Другачије речено, технике класификације и квантификације не могу се одвојити од друштвено-политичког контекста за који су задужени да провере и за које гарантују. Да преформулишем научника међународних односа Роберта Кокса, класификација и квантификација су увек за некога и за неку сврху. 22

Ипак, како научна и технолошка студија Хелга Новотни упозорава, ако „верујемо“ резултатима алгоритамског предвиђања као суштински истинитим, погрешно разумемо логику дубоких неуронских мрежа. Ове мреже „могу само да открију правилности и идентификују обрасце на основу података који долазе из прошлости. Није укључено никакво узрочно резоновање, нити се АИ претвара да јесте.’ 23

Иако ове машине могу да дају „практична и мерљива предвиђања“, оне немају осећај за узрок и последицу – укратко, немају „разумевање“ у људском смислу. 24 Штавише, превелико ослањање на алгоритме гура нас ка детерминизму, усклађујући наше понашање са машинским предвиђањем уместо алтернативних путева. Ово је проблем у политичким културама заснованим на одговорности. Ако желимо да учимо из прошлости да бисмо изградили бољу будућност, не можемо се ослонити на предиктивне резултате модела машинског учења.

АИ деја-ву

Постоји много тема поред заједничког и континуираног ослањања на квантификацију и класификацију које се може повући да би се истражила запетљана историја технологија надзора и идентификације од деветнаестог века до данас. Маргинализована, вишка популација као што су осуђеници и колонизовани људи дуго се користе као „ технолошки полигони “ за усавршавање система класификације и обуку алгоритама. Страх од неконтролисане људске мобилности и даље се користи као покретач истраживања и развоја, а технологија се заузврат користи да реши проблеме које је сама створила. А позитивистичке друштвено-научне методе остају инструменталне у задатку превођења огромних многострукости у чисте, нумеричке вредности.

Уместо да паднемо на АИ хипе, могли бисмо да се прилагодимо осећању деја-вуа: узнемирујућем осећају да смо све ово већ видели. На овај начин бисмо могли боље да се одупремо фантастичним тврдњама корпоративних и граничних актера и почнемо да одвајамо технологије од глобалних пројеката доминације.

**

Овај чланак је заснован на истраживању спроведеном током пројекта „Еластичне границе: Промишљање граница 21. века“ на Универзитету у Грацу, који финансира фондација НОМИС.

1 A. Bertillon, Instructons signalétiques , Melun, 1893, plate 16, p. 262.

2 I am part of a team of researchers at the NOMIS-funded Elastic Borders project , University of Graz, Austria.

3 See also: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities , Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Measuring the human body from anthropometry to the computational social sciences', Public , Vol. 30, No. 60, 2020, pp. 20-33; A. Valdivia and M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency , FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 If prints were taken in Greece, but the asylum seeker was later apprehended in Germany, they could face removal to Greece for processing their application.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa and D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: A comparative and interdisciplinary analysis (working paper) , Swiss Network for International Studies, 2021, p. 36.

6 JB Rule, Private Lives and Public Surveillance , Allen Lane, 1973.

7 Ibid., p. 91.

8 M. Foucault, Society Must be Defended. Lectures at the Collège de France, 1975-76 , trans. D. Macey, Picador, 2003, p. 244.

9 SA Cole, Suspect identities: A history of fingerprinting and criminal identification , Harvard University Press, 2001, p.12.

10 Ibid., pp. 18-9.

11 Ibid., pp. 34-45.

12 Ibid., p.48.

13 M. Foucault, The Order of Things . Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust , Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Unsettling the coloniality of being/power/truth/freedom: Towards the human, after man, its overrepresentation – an argument', CR: The New Centennial Review , Vol. 3, No. 3, 2003, pp. 257-337.

17 GC Bowker and SL Star, Sorting things out: Classification and its consequences , MIT press, 2000, p. 196.

18 L. Amoore, 'The deep border', Political Geography , 2001, 102547.

19 Ibid.

20 Galton conducted a similar study on Jewish school boys, searching for racial markers of Jewishness.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence , Yale University Press, 2021, pp. 126-7.

22 RW Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium , Vol. 10, No. 2, 1981, pp. 126–155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, p. 22.

24 Ibid.