Измерение подвижного тела

Европейский арсенал высокотехнологичных пограничных технологий часто описывается как футуристическая сказка о свете, скорости и вычислительной мощности. Системы идентификации, такие как база данных Eurodac, хранят, обрабатывают и сравнивают оцифрованные отпечатки пальцев мигрантов, используя ближний инфракрасный свет, оптоволоконные кабели и централизованные серверы. Беспилотники патрулируют небо с помощью своих немигающих оптических датчиков. Большие объемы данных поступают в компьютерные программы, которые предсказывают следующий всплеск прибытия.

Новости и отчеты НПО фокусируются на высокотехнологичной природе европейских границ. В каждом из них рассказывается о том, как дистанционные формы наблюдения, сдерживания и контроля все чаще дополняют, а в некоторых случаях и заменяют пограничные укрепления. Хотя такого рода исследования и адвокация необходимы для того, чтобы заставить ЕС и разработчиков технологий отчитываться за их роль в том, что они толкают просителей убежища на смертельные миграционные маршруты, они упускают из виду долгую историю этих технологий и их устоявшуюся роль в западных аппаратах управления. Это не только рискует усилить AI hype» среди политиков и разработчиков, которые превозносят эти инструменты как средство создания «умных» границ и защиты прав человека мигрантов. Что еще более важно, подобная историческая амнезия может также неверно истолковать насилие и исключения, осуществляемые этими технологиями, как техническую проблему «предвзятости», которую легко исправить с помощью более точных измерений или больших наборов данных. Вместо этого большую часть вреда, причиняемого этими технологиями, следует понимать как присущую их конструкции.

Каталог идентификации

Внедрение передовых технологий для контроля за передвижением людей — явление далеко не новое. Представьте себе городской полицейский участок в Европе в конце XIX века. Если бы муниципалитет принял на вооружение новейшие технологии идентификации, подозреваемых подвергали бы сложному процессу измерения. Запись их размеров была точным и узкоспециализированным процессом, требующим квалифицированного и обученного техника.

Ознакомьтесь с этими инструкциями по измерению уха:

.

Оператор подводит фиксированную губку инструмента к верхнему краю уха и обездвиживает его, плотно прижимая большой палец левой руки к верхнему концу губки инструмента, а остальные пальцы руки упираются в верхнюю часть черепа. Держа стержень штангенциркуля параллельно оси уха, он осторожно нажимает на подвижную губку, пока она не коснется нижнего конца мочки, и, прежде чем считать указанное число, убеждается, что пинна [наружная часть уха] ни в коем случае не сдавлена ни одной из губок.1

Этот процесс может показаться причудливым, хотя и несколько курьезным пережитком эпохи Fin de Siècle, но это совсем не так. Бертильонаж, система измерения, классификации и архивирования для идентификации преступников, разработанная в 1870-х годах одноименным французским полицейским клерком, стала важной вехой в истории технологий наблюдения и идентификации. Примечательно, что ее ключевые принципы лежат в основе технологий идентификации и по сей день — от базы данных до биометрии и машинного обучения.

Тесная и исторически сложившаяся связь существует между опасениями по поводу неконтролируемой циркуляции различных «нежелательных лиц» и технологическими инновациями. Методы XIX века, разработанные и усовершенствованные для решения проблем бродяжничества, колониального управления, девиантности, сумасшествия и преступности, лежат в основе современных высокотехнологичных аппаратов пограничного контроля. Эти методы включают в себя квантификацию, которая превращает человеческое тело в код, классификацию, а также современные методы индексирования и архивирования.

Современная регистрация инвазий

Умные пограничные системы используют передовые технологии для создания «современных, эффективных и действенных» границ. В этом контексте передовые технологии часто представляются как переводящие пограничные процессы, такие как идентификация, регистрация и контроль мобильности, в чисто техническую процедуру, тем самым делая процесс более справедливым и менее подверженным человеческим ошибкам. Алгоритмическая точность характеризуется как средство, позволяющее избежать неэтичных политических предубеждений и исправить человеческие ошибки.

Как исследователь технонаучных основ высокотехнологичного пограничного аппарата ЕС,2 я признаю как растущую эластичность современных пограничных практик, так и исторически сложившуюся методологию их инструментов и практик.3

Взять, к примеру, базу данных Eurodac, краеугольный камень управления границами ЕС. Созданный в 2003 году, этот индекс хранит отпечатки пальцев лиц, ищущих убежища, в качестве исполнения Дублинского регламента о первом въезде.4 Снятие отпечатков пальцев и регистрация в совместимых базах данных также являются центральными инструментами, используемыми в последних подходах к управлению миграцией, таких как подход «горячих точек», где атрибуция личности служит средством отсеивания «заслуживающих» и «незаслуживающих» мигрантов.5

За прошедшие годы расширился как тип данных, хранящихся в Eurodac, так и их использование: сфера его применения была расширена, чтобы служить «более широким миграционным целям«, храня данные не только о просителях убежища, но и о нелегальных мигрантах, чтобы облегчить их депортацию. В недавно принятом предложении к отпечаткам пальцев добавились изображения лица и биографическая информация, включая имя, гражданство и паспортные данные. Кроме того, минимальный возраст мигрантов, чьи данные могут быть сохранены, снижен с четырнадцати до шести лет.

С 2019 года Eurodac «интероперабелен» с рядом других баз данных ЕС, хранящих информацию о разыскиваемых лицах, иностранных резидентах, обладателях виз и других лицах, представляющих интерес для органов уголовного правосудия, иммиграции и предоставления убежища, эффективно связывая уголовное правосудие с миграцией, а также значительно расширяя доступ к этим данным. Eurodac играет ключевую роль для европейских властей, о чем свидетельствуют усилия по достижению «100-процентного уровня дактилоскопии»: Европейская комиссия добивается от государств-членов внесения в базу данных каждого вновь прибывшего человека, применяя при необходимости физическое принуждение и содержание под стражей.

Маркировка преступности

Хотя национальные государства веками собирали данные о гражданах для целей налогообложения и призыва в армию, их индексация, организация в базы данных и классификация для конкретных государственных целей — таких, как контроль над мобильностью «нежелательного» населения, — является изобретением XIX века.6 Французский историк и философ Мишель Фуко описывает, как в условиях растущей урбанизации и индустриализации государства стали все более озабоченными вопросом «циркуляции». Люди и товары, а также болезнетворные микроорганизмы циркулировали дальше, чем в раннее Новое время.7 Хотя государства не стремились полностью подавлять или контролировать эти перемещения, они искали способы увеличить то, что считалось «позитивной» циркуляцией, и минимизировать «негативную» циркуляцию. Для этого они использовали новые инструменты позитивистской социальной науки: статистические подходы применялись в области демографии для отслеживания и регулирования таких явлений, как рождение, несчастные случаи, болезни и смерть.8 Зарождающееся управленческое национальное государство решало проблему циркуляции путем разработки очень специфического инструментария, собирая подробную информацию о населении и разрабатывая стандартизированные методы хранения и анализа.

Одной из особенно сложных проблем был оборот известных преступников. В XIX веке было распространено мнение, что если человек совершил преступление один раз, то он совершит его снова. Однако имеющиеся системы идентификации преступников были крайне неадекватны этой задаче.

Как объясняет криминолог Саймон Коул, для идентификации неизвестного человека требуется «действительно уникальный след тела».9 Однако до появления современных систем идентификации существовало только два способа сделать это: клеймение или личное признание. Хотя клеймение широко использовалось в Европе и Северной Америке для каторжников, заключенных и порабощенных, развивающиеся представления о преступности и наказаниях привели к тому, что в начале XIX века физические метки были отменены. Вместо этого была создана судимость — письменный документ, в котором указывалось имя осужденного и письменное описание его личности, включая опознавательные знаки и шрамы.

<Однако идентифицировать подозреваемого по одному лишь письменному описанию оказалось непросто. К тому же система была уязвима для использования псевдонимов и различных написаний имен: с уверенностью можно было идентифицировать только человека, известного в своей среде. Ранние системы идентификации преступников были в корне уязвимы к мобильности.10 Примечательно, что эти проблемы продолжают преследовать современное управление миграцией, поскольку базы данных часто содержат несколько записей на одного и того же человека в результате различных транслитераций имен с арабского на латинский алфавит.

Изобретение фотографии в 1840-х годах мало что дало для решения проблемы надежности криминальной идентификации. Мало того, что фотографическая запись по-прежнему зависела от личного признания, она также поставила вопрос об архивировании. До Бертильонажа уголовные записи хранились либо в виде ежегодных сборников преступлений, либо в виде алфавитных списков преступников. Хотя фотографии давали более точное изображение лица, не было возможности архивировать их по признакам. Если нужно было найти в картотеке, например, человека с выдающимся подбородком, то процедуры для этого не существовало. Фотографии осужденных сортировались в алфавитном порядке в соответствии с именем, указанным преступником, и страдали тем же недостатком, что и другие системы идентификации.

Предок датафикации

Альфонс Бертильон первым решил эту проблему, объединив систематические измерения человеческого тела с архивированием и ведением записей. Криминолог улучшил поиск записей, сортируя их не по алфавиту, а по цифрам, создав систему индексации, основанную исключительно на антропоморфных измерениях. Индексные карточки были организованы в соответствии с иерархической классификационной системой: сначала информация распределялась по полу, затем по длине головы, ширине головы, длине среднего пальца и так далее. Каждый набор измерений делился на группы на основе статистической оценки их распределения среди населения, а средние показатели определялись путем проведения измерений у осужденных. Оператор Бертильон брал профиль подозреваемого в архив и искал совпадения путем исключения: сначала исключались не совпадающие по полу, затем не совпадающие по длине головы и так далее. Если предварительное совпадение было найдено, оно подтверждалось по телесным отметинам, также указанным в карточке. Везде, где применялась эта система, показатели распознавания «рецидивистов» резко возрастали; вскоре система Бертильона распространилась по всему миру.11

С Бертильоном в кадр попала еще одна отличительная черта современных технологий пограничного контроля и наблюдения: количественная оценка, или то, что сегодня известно как «датафикация». Бертильон не только измерял рост и длину головы заключенных, но и изобрел метод перевода отличительных особенностей тела в код. Например, если у заключенного был шрам на предплечье, прежние системы идентификации преступников просто отмечали это в досье. Бертильон, напротив, измерял их расстояние от заданной точки отсчета. Затем эти данные записывались стандартным образом с использованием идиом сокращений и символов, которые представляли эти описания в сокращенном виде. Получившийся portrait parlé,  или разговорный портрет, транскрибировал физическое тело на «универсальный язык» «слов, цифр и закодированных сокращений».12 Впервые в истории точное описание объекта можно было передать по телеграфу.

<Перевод тела в код до сих пор лежит в основе современных методов биометрической идентификации. Идентификация по отпечаткам пальцев Системы, впервые опробованные и внедренные в колониальной Индии, преобразовывали узоры папиллярных гребней в код, который затем можно было сравнить с другими кодами, сгенерированными таким же образом. технология распознавания лиц создает схематическое изображение лица и присваивает ему числовые значения, позволяя таким образом сравнивать и сопоставлять. Другие формы биометрической идентификации, такие как идентификация по голосу, сканирование радужной оболочки глаза и распознавание походки, работают по тому же принципу.

От таксономии к машинному обучению

Помимо количественной оценки, классификация — ключевой инструмент генерации знаний и управления на протяжении веков — является еще одной отличительной чертой современных технологий наблюдения и идентификации. Как отмечают многие ученые, от Фуко13 до Зигмунта Баумана14 и Дениз Феррейра да Силва15 , классификация — центральный инструмент европейского Просвещения, наиболее ярким подтверждением чему является таксономия Карла Линнея. В своей градуированной таблице Линней назвал, классифицировал и иерархически упорядочил мир природы — от растений до насекомых и людей, разделяя и подразделяя каждую группу в соответствии с общими характеристиками. Классификации и таксономии широко рассматриваются как выражение фундаментальных эпистемологических сдвигов от теоцентрической к рационалистической эпистемологии в эпоху раннего модерна, которые позволили совершить научные прорывы, но также были связаны с колонизацией и порабощением.16 В своей книге на эту тему Джеффри Боукер и Сьюзан Ли Стар подчеркивают использование классификации в качестве мощного, но часто непризнанного инструмента политического упорядочивания: «Политически и социально заряженные программы часто сначала представляются как чисто технические, и их даже трудно заметить. По мере того как слои классификационной системы превращаются в работающую инфраструктуру, первоначальное политическое вмешательство становится все более и более укорененным. Во многих случаях это приводит к натурализации политической категории через процесс конвергенции. Она становится само собой разумеющейся.’17

Сегодня классификация занимает центральное место в машинном обучении — области искусственного интеллекта, предназначенной для выявления закономерностей в больших объемах данных. Это позволяет не только классифицировать огромные объемы информации, но и предсказывать и классифицировать новые, ранее невиданные данные. Другими словами, он применяет полученные знания к новым ситуациям. Хотя исследования в области машинного обучения начались в середине прошлого века, небывалую популярность оно получило в последнее время благодаря таким приложениям, как ChatGPT.

Машинное обучение также все чаще применяется в пограничной работе. Редко используемое как самостоятельная технология, оно широко применяется в существующих технологиях, чтобы дополнить и ускорить давно известные формы наблюдения, идентификации и сортировки. Например,  алгоритмическое прогнозирование, анализирующее большие объемы данных, включая модели передвижения, сообщения в социальных сетях, политические конфликты, стихийные бедствия и многое другое, все чаще заменяет статистическое моделирование миграции для составления карт миграционных потоков. В настоящее время Европейская комиссия финансирует исследования алгоритмических методов которые позволят расширить существующие формы анализа рисков, используя более широкие источники данных для выявления новых форм «рискованного» поведения. Машинное обучение также испытывается или используется в «детекторе лжи» пограничников, распознавании диалектов, отслеживание и идентификация подозрительных судов, распознавание лиц на внутренних границах ЕС и поведенческий анализ заключенных в греческих лагерях. Как видно из этого широкого спектра приложений, кажется, что нет ни одной пограничной технологии, не подверженной машинному обучению, будь то анализ изображений, полученных с помощью беспилотных летательных аппаратов, или проверка заявлений о предоставлении убежища.

Классификация лежит в основе машинного обучения — или, по крайней мере, того типа машинного обучения, управляемого данными который стал доминирующим сегодня. Отдельные точки данных организуются в категории и подкатегории, и этот процесс осуществляется либо с помощью контролируемого, либо с помощью неконтролируемого обучения. При контролируемом обучении обучающие данные маркируются в соответствии с заранее определенной таксономией. На практике это обычно означает, что люди присваивают метки данным, например «собака», изображению этой собаки. Модель машинного обучения учится на этом наборе данных, выявляя закономерности, которые соотносятся с метками. При неконтролируемом обучении данные не маркируются людьми. Вместо этого алгоритм самостоятельно выявляет закономерности и структуры в данных. Другими словами, алгоритм классифицирует данные, создавая собственные кластеры на основе закономерностей, присущих набору данных. Он создает собственную таксономию категорий, которая может совпадать или не совпадать с системами, созданными человеком.

Предполагаемый тип преступника

Как отмечает исследователь ИИ и границ Луиза Амур, создание алгоритмических кластеров как представление присущих данным «естественных» закономерностей является «чрезвычайно мощным политическим предложением», поскольку оно «обещает нейтральное, объективное и свободное от ценностей создание и границу политического сообщества».18 Идея алгоритмического кластера как «естественного сообщества» содержит значительный расификационный ход: формы поведения, связанные с нелегальной миграцией, соответственно, маркируются как «рискованные». Поскольку эти кластеры формируются без привязки к заранее определенным критериям, таким как «классические» признаки расы, например национальность или религия, их трудно оспорить с помощью существующих концепций, таких как защищенные характеристики или предвзятость.19 Например, мигрант может быть определен как угроза безопасности алгоритмом машинного обучения на основе непрозрачной корреляции между маршрутами поездок, сообщениями в социальных сетях, личными и профессиональными сетями и погодными условиями.

Создание категорий по присущим им признакам перекликается с другими практиками XIX века, а именно с рядом научных мероприятий, использующих измерения и статистику для выявления закономерностей и моделей, указывающих на преступное поведение. Подобно неконтролируемому машинному обучению, области краниометрии, френологии и криминальной антропологии систематически накапливали данные о людях, чтобы выявить закономерности, которые можно было бы отсортировать в категории преступности.

<Например, френологи, такие как Франц Джозеф Галл, связывали определенные черты характера с рельефностью участков черепа. В смежной области физиогномики такие деятели, как швейцарский пастор Иоганн Каспар Лаватер, проводили систематическое изучение черт лица в качестве руководства по преступному поведению. С развитием фотографии исследования, посвященные изучению признаков преступности по лицу, получили широкое распространение, причем таким "исследованиям" неоднократно подвергались осужденные и заключенные психушек. В качестве примера можно привести составные фотографии Фрэнсиса Гальтона, основателя евгенического движения и пионера идентификации по отпечаткам пальцев: изображения осужденных накладывались друг на друга, чтобы выявить закономерности как физические маркеры преступности.20

Криминальная антропология объединила эти подходы в последовательную попытку подвергнуть преступное тело научному исследованию. Под руководством итальянского психиатра и антрополога Чезаре Ломброзо криминальные антропологи использовали широкий спектр антропоморфных инструментов измерения, от точных измерений конечностей Бертильона до краниометрических измерений черепа, составления карты черт лица, а также отмечали отличительные знаки, такие как шрамы и татуировки. На этой основе они составили список так называемых «стигматов» или физических закономерностей, встречающихся на теле «прирожденного преступника». Хотя сегодня это понятие широко дискредитировано, основополагающий метод классификации, основанный на массовых характеристиках данных, все еще существует.

Доверие к выводам, сделанным на основе количественного анализа черт лица, остается сильной приманкой. В 2016 году утверждалось, что удалось успешно обучить алгоритм глубокой нейронной сети предсказывать преступность на основе снимков головы из водительских прав, а в 2018 году делались аналогичные заявления о считывании сексуальной ориентации с фотографий с сайтов знакомств.

При критическом отношении к этим системам необходимо помнить о более масштабном политическом проекте, для реализации которого они используются. Как пишет исследователь ИИ Кейт Кроуфорд: «Соотнесение морфологии черепа с интеллектом и претензиями на законные права выступает в качестве технического алиби для колониализма и рабства». Хотя существует тенденция фокусироваться на ошибках в измерениях черепа и на том, как их исправить, гораздо большая ошибка кроется в мировоззрении, лежащем в основе этой методологии. Таким образом, цель должна состоять не в том, чтобы призвать к более точным или «справедливым» измерениям черепа для укрепления расистских моделей интеллекта, а в том, чтобы вообще осудить этот подход.’21 Говоря иначе, методы классификации и количественной оценки не могут быть отделены от социально-политических контекстов, которые им поручено проверять и подтверждать. Говоря словами исследователя международных отношений Роберта Кокса, классификация и количественная оценка всегда для кого-то и с какой-то целью.22

<Однако, как предупреждает исследователь науки и технологий Хельга Новотны, если мы "доверяем" результатам алгоритмических предсказаний как фундаментально истинным, мы неправильно понимаем логику глубоких нейронных сетей. Эти сети "могут лишь выявлять закономерности и определять паттерны на основе данных, полученных из прошлого. Никаких причинно-следственных связей не существует, и ИИ не делает вид, что это так.'23

<Хотя эти машины могут делать "практические и измеримые предсказания", у них нет чувства причины и следствия - короче говоря, у них нет "понимания" в человеческом смысле.24 Более того, чрезмерная зависимость от алгоритмов подталкивает нас к детерминизму, согласуя наше поведение с машинным предсказанием вместо альтернативных путей. Это проблема для политической культуры, основанной на ответственности. Если мы хотим извлечь уроки из прошлого, чтобы построить лучшее будущее, мы не можем полагаться на предсказательные результаты модели машинного обучения.

АИ дежа-вю

Есть множество нитей, помимо общей и постоянной зависимости от количественных показателей и классификации, которые можно задействовать для изучения запутанной истории технологий наблюдения и идентификации с девятнадцатого века до наших дней. Маргинализированные, избыточные группы населения, такие как осужденные и колонизированные люди, уже давно используются в качестве «технологических полигонов» для оттачивания классификационных систем и обучения алгоритмов. Страх перед неконтролируемой мобильностью людей по-прежнему используется в качестве движущей силы для исследований и разработок, а технологии, в свою очередь, применяются для решения проблем, которые они сами же и создали. А позитивистские методы социальных наук по-прежнему помогают переводить ревущие множества в аккуратные числовые значения.

Вместо того чтобы поддаваться шумихе по поводу ИИ, мы можем настроиться на чувство дежа-вю: тревожное ощущение, что мы уже видели все это раньше. Таким образом, мы сможем лучше противостоять фантастическим заявлениям корпораций и пограничных структур и начать отделять технологии от глобальных проектов господства.

**

Эта статья основана на исследованиях, проведенных в рамках проекта «Эластичные границы: Rethinking the Borders of the 21st Century’ на базе Университета Граца, финансируемый фондом NOMIS.

«Эластичные границы».

1 A. Bertillon, Instructons signalétiques, Melun, 1893, plate 16, p. 262.

2 Я являюсь частью команды исследователей в финансируемом НОМИС проекте "Эластичные границы", Университет Граца, Австрия.

3 См. также: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Измерение человеческого тела от антропометрии до вычислительных социальных наук", Public, Vol. 30, No. 60, 2020, pp. 20-33; A. Valdivia and M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Если отпечатки были сняты в Греции, а проситель убежища впоследствии был задержан в Германии, ему может грозить высылка в Грецию для рассмотрения его заявления.

5 B. Айата, К. Куперс, К. Пагано, А. Фисса и Д. Алаа, Реализация подхода ЕС к "горячим точкам" в Греции и Италии: Сравнительный и междисциплинарный анализ (рабочий документ), Швейцарская сеть международных исследований, 2021, с. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., p. 91.

8 M. Foucault, Society Must be Defended. Лекции в Коллеж де Франс, 1975-76, перев. D. Macey, Picador, 2003, p. 244.

9 S. А. Коул, Идентификация подозреваемых: A history of fingerprinting and criminal identification, Harvard University Press, 2001, p.12.

10 Там же, с.18-9.

11 Там же, с. 34-45.

12 Ибид., с.48.

13 M. Foucault, The Order of Things. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Уинтер, "Развенчание колониальности бытия/власти/истины/свободы: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker and S. L. Star, Sorting things out: Классификация и ее последствия, MIT press, 2000, p. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ибид.

20 Галтон провел аналогичное исследование на еврейских школьных мальчиках, ища расовые маркеры еврейства.

Там же.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, pp. 126-7.

22 R. В. Кокс, "Социальные силы, государства и мировые порядки: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms.  Политиздат, 2021, с. 22.

24 Ибид.