Hareketli bedenin ölçülmesi

Avrupa’nın yüksek teknolojili sınır teknolojileri cephaneliği genellikle fütüristik bir ışık, hız ve bilgi işlem gücü hikayesi olarak anlatılır. Eurodac veri tabanı gibi kimlik belirleme sistemleri, yakın kızılötesi ışık, fiber optik kablolar ve merkezi sunucular kullanarak göçmenlerin sayısallaştırılmış parmak izlerini depolar, işler ve karşılaştırır. Dronlar göz kırpmayan optik sensörleriyle gökyüzünde devriye geziyor. Ve büyük hacimli veriler, bir sonraki geliş dalgasını tahmin eden bilgisayar programlarına aktarılıyor.

Haberler ve NGO raporları Avrupa sınırlarının yüksek teknolojili doğasına odaklanıyor. Her biri uzaktan gözetleme, caydırma ve kontrol biçimlerinin sınır tahkimatlarını nasıl giderek daha fazla tamamladığını ve bazı durumlarda onların yerini aldığını ortaya koyuyor. Bu tür bir araştırma ve savunuculuk, AB ve teknoloji geliştiricilerinin sığınmacıları ölümcül göç yollarına yönlendirmedeki rollerinden dolayı hesap vermelerini sağlamak için gerekli olsa da, bu teknolojilerin uzun geçmişlerini ve Batı yönetişim aygıtlarındaki yerleşik rollerini görmezden geliyor. Bu sadece ‘AI hype‘, bu araçları hem ‘daha akıllı’ sınırlar yaratmak hem de göçmenlerin insan haklarını korumak için bir araç olarak selamlayan politika yapıcılar ve geliştiriciler arasında.Daha da önemlisi, bu tür bir tarihsel amnezi, bu teknolojiler tarafından yürürlüğe konan şiddet ve dışlamaları, daha doğru ölçümler veya daha büyük veri kümeleri ile kolayca düzeltilebilecek teknik bir ‘yanlılık’ sorunu olarak yanlış okuyabilir. Bunun yerine, bu teknolojilerin neden olduğu zararların çoğu, tasarımlarının doğasında olduğu şeklinde anlaşılmalıdır.

AI déjà-vu

On dokuzuncu yüzyıldan günümüze gözetim ve kimlik belirleme teknolojilerinin iç içe geçmiş tarihini keşfetmek için nicelleştirme ve sınıflandırmaya duyulan ortak ve süregelen güvenin yanı sıra pek çok konudan faydalanılabilir. Hükümlüler ve sömürgeleştirilmiş insanlar gibi marjinalleştirilmiş, fazlalık nüfuslar uzun zamandır sınıflandırma sistemlerini geliştirmek ve algoritmaları eğitmek için ‘teknolojik test alanları‘ olarak kullanılmaktadır. Kontrolsüz insan hareketliliği korkusu, araştırma ve geliştirme için bir itici güç olarak kullanılmaya devam ediyor ve teknoloji de kendi yarattığı sorunları çözmek için kullanılıyor. Ve pozitivist sosyal bilimsel yöntemler, kükreyen çoklukları düzgün, sayısal değerlere dönüştürme görevinin aracı olmaya devam ediyor.

YZ aldatmacasına kanmak yerine, kendimizi bir deja-vu duygusuna, yani tüm bunları daha önce gördüğümüze dair tedirgin edici duyguya ayarlayabiliriz. Bu şekilde, kurumsal ve sınır aktörleri tarafından ortaya atılan fantastik iddialara daha iyi direnebilir ve teknolojileri küresel tahakküm projelerinden ayırmaya başlayabiliriz.

**

Bu makale ‘Elastic Borders’ projesi kapsamında yürütülen araştırmaya dayanmaktadır: Rethinking the Borders of the 21st Century’ Graz Üniversitesi merkezli, NOMIS vakfı tarafından finanse edilmektedir.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, levha 16, s. 262.

2 NOMIS tarafından finanse edilen Elastik Sınırlar projesinde, Graz Üniversitesi, Avusturya'daki araştırmacı ekibinin bir parçasıyım.

3 Ayrıca bkz: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Antropometriden hesaplamalı sosyal bilimlere insan bedenini ölçmek', Public, Cilt 30, No. 60, 2020, s. 20-33; A. Valdivia ve M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Eğer parmak izleri Yunanistan'da alınmış, ancak sığınmacı daha sonra Almanya'da yakalanmışsa, başvurusunun işleme konulması için Yunanistan'a gönderilmekle karşı karşıya kalabilir.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa ve D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: Karşılaştırmalı ve disiplinler arası bir analiz (çalışma raporu), İsviçre Uluslararası Çalışmalar Ağı, 2021, s. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., s. 91.

8 M. Foucault, Toplum Savunulmalıdır. Lectures at the Collège de France, 1975-76, çev. D. Macey, Picador, 2003, s. 244.

9 S. A. Cole, Şüpheli kimlikleri: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s.12.

10 Ibid., s. 18-9.

11 Ibid., s. 34-45.

12 Ibid., s.48.

13 M. Foucault, The Order of Things. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Varlığın/gücün/hakikatin/özgürlüğün sömürgeciliğini sarsmak: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker ve S. L. Star, Sorting things out: Classification and its consequences, MIT press, 2000, s. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ibid.

20 Galton benzer bir çalışmayı Yahudi okul çocukları üzerinde yürütmüş ve Yahudiliğin ırksal işaretlerini aramıştır.

.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.

22 R. W. Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, s. 22.

24 Ibid.

Sözde suçlu tipi

Yapay zeka ve sınır akademisyeni Louise Amoore’un işaret ettiği gibi, algoritmik kümeleri verilerden elde edilen içsel, ‘doğal’ kalıpların bir temsili olarak ortaya koymak, ‘tarafsız, nesnel ve değerden bağımsız bir siyasi topluluk oluşturma ve sınırlama vaadi sunduğu’ için ‘olağanüstü güçlü bir siyasi önerme’dir.18 Algoritmik kümenin ‘doğal bir topluluk’ olduğu fikri, önemli bir ırksallaştırma hamlesi içermektedir: düzensiz göçle ilişkili davranış biçimleri sonuç olarak ‘riskli’ olarak etiketlenmektedir. Bu kümeler, milliyet veya din gibi ırk için ‘klasik’ vekiller gibi önceden tanımlanmış kriterlere atıfta bulunulmadan oluşturulduğundan, korunan özellikler veya önyargı gibi mevcut kavramlarla sorgulanmaları zordur.19 Örneğin, bir göçmen, seyahat güzergahları, sosyal medya paylaşımları, kişisel ve profesyonel ağlar ve hava durumu modelleri arasındaki şeffaf olmayan bir korelasyona dayanan bir makine öğrenimi algoritması tarafından bir güvenlik riski olarak tanımlanabilir.

İçsel niteliklere göre kategorilerin oluşturulması, diğer on dokuzuncu yüzyıl uygulamalarını yankılamakta ve genişletmektedir: yani, suç davranışına işaret edecek düzenlilikleri ve kalıpları belirlemek için ölçüm ve istatistikleri kullanan bir dizi bilimsel çaba. Denetimsiz makine öğrenimi gibi, kraniyometri, frenoloji ve kriminal antropoloji alanları, suç kategorilerine ayrılabilecek kalıpları toplamak için insan denekler hakkında sistematik olarak veri biriktirmiştir.

Örneğin, Franz Joseph Gall gibi frenologlar belirli kişilik özelliklerini kafatasının öne çıkan bölgeleriyle ilişkilendirmiştir. İlgili fizyonomi alanında, İsviçreli papaz Johann Kaspar Lavater gibi isimler, suçlu davranışına rehberlik etmesi için yüz hatları üzerinde sistematik bir çalışma yürüttü. Fotoğrafçılığın gelişmesiyle birlikte, yüzdeki suçluluk belirtilerini araştıran çalışmalar hız kazanmış, mahkumlar ve akıl hastanesi mahkumları defalarca bu tür ‘çalışmalara’ tabi tutulmuştur. Öjenik hareketinin kurucusu ve parmak izi tespitinin öncülerinden Frances Galton’un kompozit fotoğrafları buna bir örnektir: mahkumların görüntüleri, suçluluğun fiziksel işaretleri olarak düzenlilikler elde etmek için üst üste bindirilmiştir.20

Kriminal antropoloji bu yaklaşımları, suçlu bedenini bilimsel incelemeye tabi tutmaya yönelik tutarlı bir girişimde birleştirdi. İtalyan psikiyatrist ve antropolog Cesare Lombroso’nun önderliğinde kriminal antropologlar, Bertillon’un hassas uzuv ölçümlerinden kraniyometrik kafatası ölçümlerine, yüz hatlarının haritasının çıkarılmasına ve yara izleri ve dövmeler gibi ayırt edici işaretlerin not edilmesine kadar çok çeşitli antropomorfik ölçüm araçları kullandılar. Bu temelde, ‘doğuştan suçlu’nun vücudunda bulunan sözde ‘stigmata’ veya fiziksel düzenliliklerin bir listesini çıkardılar Bu kavram bugün yaygın olarak gözden düşmüş olsa da, toplu veri özelliklerine dayalı temel sınıflandırma yöntemi hala varlığını sürdürmektedir.

Yüz özelliklerinin nicel analizinden çıkarılan sonuçlara güvenmek güçlü bir cazibe olmaya devam ediyor. Bir 2016 makalesi ehliyetlerden alınan kafa fotoğraflarına dayanarak suçluluğu tahmin etmek için derin bir sinir ağı algoritmasını başarıyla eğittiğini iddia ederken, bir 2018 çalışması arkadaşlık sitesi fotoğraflarından cinsel yönelimi okuma konusunda benzer iddialarda bulundu.

Bu sistemlerle eleştirel bir şekilde ilgilenirken, desteklemek için konuşlandırıldıkları daha büyük siyasi projenin farkında olmak zorunludur. Yapay zeka uzmanı Kate Crawford’un yazdığı gibi: ‘Kafatası morfolojisini zeka ve yasal hak talepleriyle ilişkilendirmek, sömürgecilik ve kölelik için teknik bir mazeret görevi görüyor. Kafatası ölçümlerindeki hatalara ve bunların nasıl düzeltileceğine odaklanma eğilimi olsa da, çok daha büyük hata bu metodolojiyi canlandıran temel dünya görüşündedir. O halde amaç, ırkçı zeka modellerini desteklemek için daha doğru ya da “adil” kafatası ölçümleri talep etmek değil, bu yaklaşımı tümüyle mahkum etmek olmalıdır.”21 Başka bir deyişle, sınıflandırma ve nicelleştirme teknikleri, doğrulamak ve kefil olmak için görevlendirildikleri sosyo-politik bağlamlardan ayrı tutulamaz. Uluslararası İlişkiler uzmanı Robert Cox’un ifadesiyle, sınıflandırma ve nicelleştirme her zaman birileri için ve bir amaç içindir.22

Bilim ve Teknoloji Çalışmaları uzmanı Helga Nowotny’nin de belirttiği gibi, algoritmik tahmin sonuçlarının temelde doğru olduğuna ‘güvenirsek’, derin sinir ağlarının mantığını yanlış anlamış oluruz. Bu ağlar ‘yalnızca düzenlilikleri tespit edebilir ve geçmişten gelen verilere dayanarak kalıpları tanımlayabilir. Nedensel muhakeme söz konusu değildir ve bir yapay zeka da öyleymiş gibi davranmaz.”23

Bu makineler ‘pratik ve ölçülebilir tahminler’ üretebilseler de, neden-sonuç ilişkisi kuramazlar – kısacası, insani anlamda bir ‘anlayışa’ sahip değildirler.24 Dahası, algoritmalara aşırı güvenmek bizi determinizme iter ve davranışlarımızı alternatif yollar yerine makine öngörüleriyle uyumlu hale getirir. Bu, hesap verebilirlik üzerine kurulu siyasi kültürlerde bir sorundur. Daha iyi gelecekler inşa etmek için geçmişten ders almak istiyorsak, bir makine öğrenimi modelinin öngörücü çıktılarına güvenemeyiz.

AI déjà-vu

On dokuzuncu yüzyıldan günümüze gözetim ve kimlik belirleme teknolojilerinin iç içe geçmiş tarihini keşfetmek için nicelleştirme ve sınıflandırmaya duyulan ortak ve süregelen güvenin yanı sıra pek çok konudan faydalanılabilir. Hükümlüler ve sömürgeleştirilmiş insanlar gibi marjinalleştirilmiş, fazlalık nüfuslar uzun zamandır sınıflandırma sistemlerini geliştirmek ve algoritmaları eğitmek için ‘teknolojik test alanları‘ olarak kullanılmaktadır. Kontrolsüz insan hareketliliği korkusu, araştırma ve geliştirme için bir itici güç olarak kullanılmaya devam ediyor ve teknoloji de kendi yarattığı sorunları çözmek için kullanılıyor. Ve pozitivist sosyal bilimsel yöntemler, kükreyen çoklukları düzgün, sayısal değerlere dönüştürme görevinin aracı olmaya devam ediyor.

YZ aldatmacasına kanmak yerine, kendimizi bir deja-vu duygusuna, yani tüm bunları daha önce gördüğümüze dair tedirgin edici duyguya ayarlayabiliriz. Bu şekilde, kurumsal ve sınır aktörleri tarafından ortaya atılan fantastik iddialara daha iyi direnebilir ve teknolojileri küresel tahakküm projelerinden ayırmaya başlayabiliriz.

**

Bu makale ‘Elastic Borders’ projesi kapsamında yürütülen araştırmaya dayanmaktadır: Rethinking the Borders of the 21st Century’ Graz Üniversitesi merkezli, NOMIS vakfı tarafından finanse edilmektedir.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, levha 16, s. 262.

2 NOMIS tarafından finanse edilen Elastik Sınırlar projesinde, Graz Üniversitesi, Avusturya'daki araştırmacı ekibinin bir parçasıyım.

3 Ayrıca bkz: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Antropometriden hesaplamalı sosyal bilimlere insan bedenini ölçmek', Public, Cilt 30, No. 60, 2020, s. 20-33; A. Valdivia ve M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Eğer parmak izleri Yunanistan'da alınmış, ancak sığınmacı daha sonra Almanya'da yakalanmışsa, başvurusunun işleme konulması için Yunanistan'a gönderilmekle karşı karşıya kalabilir.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa ve D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: Karşılaştırmalı ve disiplinler arası bir analiz (çalışma raporu), İsviçre Uluslararası Çalışmalar Ağı, 2021, s. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., s. 91.

8 M. Foucault, Toplum Savunulmalıdır. Lectures at the Collège de France, 1975-76, çev. D. Macey, Picador, 2003, s. 244.

9 S. A. Cole, Şüpheli kimlikleri: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s.12.

10 Ibid., s. 18-9.

11 Ibid., s. 34-45.

12 Ibid., s.48.

13 M. Foucault, The Order of Things. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Varlığın/gücün/hakikatin/özgürlüğün sömürgeciliğini sarsmak: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker ve S. L. Star, Sorting things out: Classification and its consequences, MIT press, 2000, s. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ibid.

20 Galton benzer bir çalışmayı Yahudi okul çocukları üzerinde yürütmüş ve Yahudiliğin ırksal işaretlerini aramıştır.

.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.

22 R. W. Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, s. 22.

24 Ibid.

Taksonomiden makine öğrenimine

Nicelleştirmenin yanı sıra, yüzyıllardır bilgi üretiminin ve yönetişimin temel araçlarından biri olan sınıflandırma, modern ve çağdaş gözetim ve kimlik belirleme teknolojilerinin bir diğer ayırt edici özelliğidir. Foucault13 dan Zygmunt Bauman14 ve Denise Ferreira da Silva15 ya kadar pek çok akademisyenin belirttiği gibi, sınıflandırma, Carl Linnaeus’un taksonomisinde en ikonik şekilde kanıtlandığı üzere, Avrupa Aydınlanmasının merkezi bir aracıdır. Linnaeus, dereceli tablosunda bitkilerden böceklere ve insanlara kadar doğal dünyayı adlandırmış, sınıflandırmış ve hiyerarşik olarak sıralamış, her grubu ortak özelliklerine göre bölmüş ve alt bölümlere ayırmıştır. Sınıflandırma ve taksonomiler, erken modern dönemde teosentrik epistemolojiden rasyonalist epistemolojiye temel epistemolojik kaymaların bir ifadesi olarak görülmekte olup, bilimsel atılımları mümkün kılmış, ancak aynı zamanda sömürgeleştirme ve köleleştirme ile de bağlantılı olmuştur.16 Konuyla ilgili kitaplarında Geoffrey Bowker ve Susan Leigh Star, sınıflandırmanın güçlü ancak çoğu zaman fark edilmeyen bir siyasi düzenleme aracı olarak kullanıldığının altını çiziyor: ‘Siyasi ve sosyal olarak yüklü gündemler genellikle ilk başta tamamen teknik olarak sunulur ve görülmeleri bile zordur. Sınıflandırma sisteminin katmanları işleyen bir altyapıya dönüştükçe, asıl siyasi müdahale giderek daha sıkı bir şekilde yerleşir. Birçok durumda bu, bir yakınsama süreci yoluyla siyasi kategorinin doğallaşmasına yol açar. ‘17

Bugün sınıflandırma, büyük miktarda verideki örüntüleri ayırt etmek için tasarlanmış bir yapay zeka alt alanı olan makine öğreniminin merkezinde yer almaktadır. Bu, yalnızca büyük miktarda bilgiyi kategorize etmesine değil, aynı zamanda yeni, daha önce görülmemiş verileri tahmin etmesine ve sınıflandırmasına da olanak tanır. Başka bir deyişle, öğrenilen bilgiyi yeni durumlara uygular. Makine öğrenimi üzerine araştırmalar geçen yüzyılın ortalarında başlamış olsa da, ChatGPT gibi uygulamalarla son zamanlarda benzeri görülmemiş bir şekilde öne çıkmıştır.

Makine öğrenimi sınır çalışmalarında da giderek daha fazla uygulanmaktadır. Nadiren tek başına bir teknoloji olarak kullanılmakla birlikte, uzun süredir kullanılan gözetim, tanımlama ve ayıklama biçimlerini artırmak ve hızlandırmak için mevcut teknolojiler arasında yaygın olarak kullanılmaktadır. Örneğin, hareket kalıpları, sosyal medya paylaşımları, siyasi çatışmalar, doğal afetler ve daha fazlası dahil olmak üzere büyük miktarda veriyi analiz eden algoritmik tahmin, göç modellerinin haritasını çıkarmak amacıyla giderek istatistiksel göç modellemesinin yerini almaktadır. Avrupa Komisyonu şu anda “riskli” davranışların yeni biçimlerini belirlemek için daha geniş veri kaynaklarından yararlanarak mevcut risk analizi biçimlerini genişletecek algoritmik yöntemlere yönelik araştırmaları finanse etmektedir. Makine öğrenimi ayrıca ‘yalan dedektörü’ sınır muhafızları, diyalekt tanıma, şüpheli gemilerin izlenmesi ve tanımlanması, AB’nin iç sınırlarında yüz tanıma ve Yunan kamplarındaki mahkumların davranışsal analizi. Bu geniş uygulama yelpazesinin de gösterdiği gibi, ister drone görüntülerinin destekli görüntü analizi ister sığınma taleplerinin incelenmesi olsun, makine öğreniminden muaf bir sınır teknolojisi yok gibi görünüyor.

Sınıflandırma, makine öğreniminin ya da en azından günümüzde baskın hale gelen veri odaklı makine öğreniminin özünde yatmaktadır. Bireysel veri noktaları, denetimli veya denetimsiz öğrenme yoluyla yürütülen bir süreç olan kategoriler ve alt kategoriler halinde düzenlenir. Denetimli öğrenmede, eğitim verileri önceden tanımlanmış bir taksonomiye göre etiketlenir. Pratikte bu genellikle insanların söz konusu köpeğin görüntüsüne ‘köpek’ gibi etiketler ataması anlamına gelir. Makine öğrenimi modeli, etiketlerle ilişkili örüntüleri tanımlayarak bu etiketli veri kümesinden öğrenir. Denetimsiz öğrenmede veriler insanlar tarafından etiketlenmez. Bunun yerine, algoritma veri içindeki kalıpları ve yapıları bağımsız olarak tanımlar. Başka bir deyişle, algoritma veri kümesinin doğasında bulunan örüntülere dayalı olarak kendi kümelerini oluşturarak verileri sınıflandırır. İnsan tarafından oluşturulan sistemlerle uyumlu olabilecek veya olmayabilecek kendi kategori taksonomisini oluşturur.

Sözde suçlu tipi

Yapay zeka ve sınır akademisyeni Louise Amoore’un işaret ettiği gibi, algoritmik kümeleri verilerden elde edilen içsel, ‘doğal’ kalıpların bir temsili olarak ortaya koymak, ‘tarafsız, nesnel ve değerden bağımsız bir siyasi topluluk oluşturma ve sınırlama vaadi sunduğu’ için ‘olağanüstü güçlü bir siyasi önerme’dir.18 Algoritmik kümenin ‘doğal bir topluluk’ olduğu fikri, önemli bir ırksallaştırma hamlesi içermektedir: düzensiz göçle ilişkili davranış biçimleri sonuç olarak ‘riskli’ olarak etiketlenmektedir. Bu kümeler, milliyet veya din gibi ırk için ‘klasik’ vekiller gibi önceden tanımlanmış kriterlere atıfta bulunulmadan oluşturulduğundan, korunan özellikler veya önyargı gibi mevcut kavramlarla sorgulanmaları zordur.19 Örneğin, bir göçmen, seyahat güzergahları, sosyal medya paylaşımları, kişisel ve profesyonel ağlar ve hava durumu modelleri arasındaki şeffaf olmayan bir korelasyona dayanan bir makine öğrenimi algoritması tarafından bir güvenlik riski olarak tanımlanabilir.

İçsel niteliklere göre kategorilerin oluşturulması, diğer on dokuzuncu yüzyıl uygulamalarını yankılamakta ve genişletmektedir: yani, suç davranışına işaret edecek düzenlilikleri ve kalıpları belirlemek için ölçüm ve istatistikleri kullanan bir dizi bilimsel çaba. Denetimsiz makine öğrenimi gibi, kraniyometri, frenoloji ve kriminal antropoloji alanları, suç kategorilerine ayrılabilecek kalıpları toplamak için insan denekler hakkında sistematik olarak veri biriktirmiştir.

Örneğin, Franz Joseph Gall gibi frenologlar belirli kişilik özelliklerini kafatasının öne çıkan bölgeleriyle ilişkilendirmiştir. İlgili fizyonomi alanında, İsviçreli papaz Johann Kaspar Lavater gibi isimler, suçlu davranışına rehberlik etmesi için yüz hatları üzerinde sistematik bir çalışma yürüttü. Fotoğrafçılığın gelişmesiyle birlikte, yüzdeki suçluluk belirtilerini araştıran çalışmalar hız kazanmış, mahkumlar ve akıl hastanesi mahkumları defalarca bu tür ‘çalışmalara’ tabi tutulmuştur. Öjenik hareketinin kurucusu ve parmak izi tespitinin öncülerinden Frances Galton’un kompozit fotoğrafları buna bir örnektir: mahkumların görüntüleri, suçluluğun fiziksel işaretleri olarak düzenlilikler elde etmek için üst üste bindirilmiştir.20

Kriminal antropoloji bu yaklaşımları, suçlu bedenini bilimsel incelemeye tabi tutmaya yönelik tutarlı bir girişimde birleştirdi. İtalyan psikiyatrist ve antropolog Cesare Lombroso’nun önderliğinde kriminal antropologlar, Bertillon’un hassas uzuv ölçümlerinden kraniyometrik kafatası ölçümlerine, yüz hatlarının haritasının çıkarılmasına ve yara izleri ve dövmeler gibi ayırt edici işaretlerin not edilmesine kadar çok çeşitli antropomorfik ölçüm araçları kullandılar. Bu temelde, ‘doğuştan suçlu’nun vücudunda bulunan sözde ‘stigmata’ veya fiziksel düzenliliklerin bir listesini çıkardılar Bu kavram bugün yaygın olarak gözden düşmüş olsa da, toplu veri özelliklerine dayalı temel sınıflandırma yöntemi hala varlığını sürdürmektedir.

Yüz özelliklerinin nicel analizinden çıkarılan sonuçlara güvenmek güçlü bir cazibe olmaya devam ediyor. Bir 2016 makalesi ehliyetlerden alınan kafa fotoğraflarına dayanarak suçluluğu tahmin etmek için derin bir sinir ağı algoritmasını başarıyla eğittiğini iddia ederken, bir 2018 çalışması arkadaşlık sitesi fotoğraflarından cinsel yönelimi okuma konusunda benzer iddialarda bulundu.

Bu sistemlerle eleştirel bir şekilde ilgilenirken, desteklemek için konuşlandırıldıkları daha büyük siyasi projenin farkında olmak zorunludur. Yapay zeka uzmanı Kate Crawford’un yazdığı gibi: ‘Kafatası morfolojisini zeka ve yasal hak talepleriyle ilişkilendirmek, sömürgecilik ve kölelik için teknik bir mazeret görevi görüyor. Kafatası ölçümlerindeki hatalara ve bunların nasıl düzeltileceğine odaklanma eğilimi olsa da, çok daha büyük hata bu metodolojiyi canlandıran temel dünya görüşündedir. O halde amaç, ırkçı zeka modellerini desteklemek için daha doğru ya da “adil” kafatası ölçümleri talep etmek değil, bu yaklaşımı tümüyle mahkum etmek olmalıdır.”21 Başka bir deyişle, sınıflandırma ve nicelleştirme teknikleri, doğrulamak ve kefil olmak için görevlendirildikleri sosyo-politik bağlamlardan ayrı tutulamaz. Uluslararası İlişkiler uzmanı Robert Cox’un ifadesiyle, sınıflandırma ve nicelleştirme her zaman birileri için ve bir amaç içindir.22

Bilim ve Teknoloji Çalışmaları uzmanı Helga Nowotny’nin de belirttiği gibi, algoritmik tahmin sonuçlarının temelde doğru olduğuna ‘güvenirsek’, derin sinir ağlarının mantığını yanlış anlamış oluruz. Bu ağlar ‘yalnızca düzenlilikleri tespit edebilir ve geçmişten gelen verilere dayanarak kalıpları tanımlayabilir. Nedensel muhakeme söz konusu değildir ve bir yapay zeka da öyleymiş gibi davranmaz.”23

Bu makineler ‘pratik ve ölçülebilir tahminler’ üretebilseler de, neden-sonuç ilişkisi kuramazlar – kısacası, insani anlamda bir ‘anlayışa’ sahip değildirler.24 Dahası, algoritmalara aşırı güvenmek bizi determinizme iter ve davranışlarımızı alternatif yollar yerine makine öngörüleriyle uyumlu hale getirir. Bu, hesap verebilirlik üzerine kurulu siyasi kültürlerde bir sorundur. Daha iyi gelecekler inşa etmek için geçmişten ders almak istiyorsak, bir makine öğrenimi modelinin öngörücü çıktılarına güvenemeyiz.

AI déjà-vu

On dokuzuncu yüzyıldan günümüze gözetim ve kimlik belirleme teknolojilerinin iç içe geçmiş tarihini keşfetmek için nicelleştirme ve sınıflandırmaya duyulan ortak ve süregelen güvenin yanı sıra pek çok konudan faydalanılabilir. Hükümlüler ve sömürgeleştirilmiş insanlar gibi marjinalleştirilmiş, fazlalık nüfuslar uzun zamandır sınıflandırma sistemlerini geliştirmek ve algoritmaları eğitmek için ‘teknolojik test alanları‘ olarak kullanılmaktadır. Kontrolsüz insan hareketliliği korkusu, araştırma ve geliştirme için bir itici güç olarak kullanılmaya devam ediyor ve teknoloji de kendi yarattığı sorunları çözmek için kullanılıyor. Ve pozitivist sosyal bilimsel yöntemler, kükreyen çoklukları düzgün, sayısal değerlere dönüştürme görevinin aracı olmaya devam ediyor.

YZ aldatmacasına kanmak yerine, kendimizi bir deja-vu duygusuna, yani tüm bunları daha önce gördüğümüze dair tedirgin edici duyguya ayarlayabiliriz. Bu şekilde, kurumsal ve sınır aktörleri tarafından ortaya atılan fantastik iddialara daha iyi direnebilir ve teknolojileri küresel tahakküm projelerinden ayırmaya başlayabiliriz.

**

Bu makale ‘Elastic Borders’ projesi kapsamında yürütülen araştırmaya dayanmaktadır: Rethinking the Borders of the 21st Century’ Graz Üniversitesi merkezli, NOMIS vakfı tarafından finanse edilmektedir.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, levha 16, s. 262.

2 NOMIS tarafından finanse edilen Elastik Sınırlar projesinde, Graz Üniversitesi, Avusturya'daki araştırmacı ekibinin bir parçasıyım.

3 Ayrıca bkz: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Antropometriden hesaplamalı sosyal bilimlere insan bedenini ölçmek', Public, Cilt 30, No. 60, 2020, s. 20-33; A. Valdivia ve M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Eğer parmak izleri Yunanistan'da alınmış, ancak sığınmacı daha sonra Almanya'da yakalanmışsa, başvurusunun işleme konulması için Yunanistan'a gönderilmekle karşı karşıya kalabilir.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa ve D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: Karşılaştırmalı ve disiplinler arası bir analiz (çalışma raporu), İsviçre Uluslararası Çalışmalar Ağı, 2021, s. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., s. 91.

8 M. Foucault, Toplum Savunulmalıdır. Lectures at the Collège de France, 1975-76, çev. D. Macey, Picador, 2003, s. 244.

9 S. A. Cole, Şüpheli kimlikleri: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s.12.

10 Ibid., s. 18-9.

11 Ibid., s. 34-45.

12 Ibid., s.48.

13 M. Foucault, The Order of Things. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Varlığın/gücün/hakikatin/özgürlüğün sömürgeciliğini sarsmak: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker ve S. L. Star, Sorting things out: Classification and its consequences, MIT press, 2000, s. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ibid.

20 Galton benzer bir çalışmayı Yahudi okul çocukları üzerinde yürütmüş ve Yahudiliğin ırksal işaretlerini aramıştır.

.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.

22 R. W. Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, s. 22.

24 Ibid.

Datafication’ın atası

Alphonse Bertillon, insan vücudunun sistematik ölçümlerini arşivleme ve kayıt tutma ile birleştirerek bu sorunu çözen ilk kişi oldu. Kriminolog, kayıtları alfabetik yerine sayısal olarak sıralayarak kayıt erişimini geliştirdi ve tamamen antropomorfik ölçümlere dayalı bir indeksleme sistemi oluşturdu. Dizin kartları hiyerarşik bir sınıflandırma sistemine göre düzenlenmiş, bilgiler önce cinsiyete, sonra baş uzunluğuna, baş genişliğine, orta parmak uzunluğuna ve benzerlerine göre ayrılmıştır. Her bir ölçüm seti, nüfus içindeki dağılımlarının istatistiksel değerlendirmesine dayalı olarak gruplara ayrılmış ve mahkumlardan ölçümler alınarak ortalamalar oluşturulmuştur. Bertillon operatörü bir şüphelinin profilini arşive götürüyor ve bir eleme süreciyle bir eşleşme arıyordu: önce eşleşmeyen cinsiyet, sonra eşleşmeyen kafa uzunlukları ve benzeri. Geçici bir eşleşme bulunursa, bu kartta da listelenen vücut izlerine bakılarak teyit ediliyordu. Bu sistemin uygulandığı her yerde, ‘yeniden suç işleyenlerin’ tanınma oranları yükseldi; Bertillon’un sistemi kısa sürede tüm dünyaya yayıldı.11

Bertillon’la birlikte, çağdaş sınır ve gözetim teknolojisinin bir başka özelliği daha çerçeveye girdi: nicelleştirme ya da bugün ‘verileştirme’ olarak bilinen şey. Bertillon sadece mahkumların boylarını ve kafa uzunluklarını ölçmekle kalmadı, aynı zamanda vücudun ayırt edici özelliklerini koda çevirmek için bir yöntem icat etti. Örneğin, bir mahkumun ön kolunda bir yara izi varsa, önceki suçlu tespit sistemleri bunu dosyaya not ederdi. Buna karşılık Bertillon, belirli bir referans noktasına olan mesafelerini ölçtü. Bunlar daha sonra kısaltmalar ve sembollerden oluşan bir deyim kullanılarak standart bir şekilde kaydedildi ve bu tanımlamalar kısaltılmış bir biçimde sunuldu. Ortaya çıkan portrait parlé, veya sözlü portre, fiziksel bedeni ‘kelimeler, sayılar ve kodlanmış kısaltmalardan’ oluşan ‘evrensel bir dile’ dönüştürdü.12 Tarihte ilk kez, kesin bir konu tanımı telgrafla iletilebildi.

Vücudun koda dönüştürülmesi, çağdaş biyometrik tanımlama yöntemlerinin temelini oluşturmaya devam etmektedir. Parmak izi tanımlama sistemleri ilk olarak sömürge Hindistan’ında denenmiş ve yaygınlaştırılmıştır; papiller sırt desenlerini bir koda dönüştürür ve bu kod daha sonra aynı şekilde üretilen diğer kodlarla karşılaştırılabilir. Yüz tanıma teknolojisi, yüzün şematik temsillerini üretir ve bunlara sayısal değerler atar, böylece karşılaştırma ve eşleştirmeye izin verir. Ses kimliği, iris taramaları ve yürüyüş tanıma gibi diğer biyometrik kimlik biçimleri de aynı prensibi takip eder.

Taksonomiden makine öğrenimine

Nicelleştirmenin yanı sıra, yüzyıllardır bilgi üretiminin ve yönetişimin temel araçlarından biri olan sınıflandırma, modern ve çağdaş gözetim ve kimlik belirleme teknolojilerinin bir diğer ayırt edici özelliğidir. Foucault13 dan Zygmunt Bauman14 ve Denise Ferreira da Silva15 ya kadar pek çok akademisyenin belirttiği gibi, sınıflandırma, Carl Linnaeus’un taksonomisinde en ikonik şekilde kanıtlandığı üzere, Avrupa Aydınlanmasının merkezi bir aracıdır. Linnaeus, dereceli tablosunda bitkilerden böceklere ve insanlara kadar doğal dünyayı adlandırmış, sınıflandırmış ve hiyerarşik olarak sıralamış, her grubu ortak özelliklerine göre bölmüş ve alt bölümlere ayırmıştır. Sınıflandırma ve taksonomiler, erken modern dönemde teosentrik epistemolojiden rasyonalist epistemolojiye temel epistemolojik kaymaların bir ifadesi olarak görülmekte olup, bilimsel atılımları mümkün kılmış, ancak aynı zamanda sömürgeleştirme ve köleleştirme ile de bağlantılı olmuştur.16 Konuyla ilgili kitaplarında Geoffrey Bowker ve Susan Leigh Star, sınıflandırmanın güçlü ancak çoğu zaman fark edilmeyen bir siyasi düzenleme aracı olarak kullanıldığının altını çiziyor: ‘Siyasi ve sosyal olarak yüklü gündemler genellikle ilk başta tamamen teknik olarak sunulur ve görülmeleri bile zordur. Sınıflandırma sisteminin katmanları işleyen bir altyapıya dönüştükçe, asıl siyasi müdahale giderek daha sıkı bir şekilde yerleşir. Birçok durumda bu, bir yakınsama süreci yoluyla siyasi kategorinin doğallaşmasına yol açar. ‘17

Bugün sınıflandırma, büyük miktarda verideki örüntüleri ayırt etmek için tasarlanmış bir yapay zeka alt alanı olan makine öğreniminin merkezinde yer almaktadır. Bu, yalnızca büyük miktarda bilgiyi kategorize etmesine değil, aynı zamanda yeni, daha önce görülmemiş verileri tahmin etmesine ve sınıflandırmasına da olanak tanır. Başka bir deyişle, öğrenilen bilgiyi yeni durumlara uygular. Makine öğrenimi üzerine araştırmalar geçen yüzyılın ortalarında başlamış olsa da, ChatGPT gibi uygulamalarla son zamanlarda benzeri görülmemiş bir şekilde öne çıkmıştır.

Makine öğrenimi sınır çalışmalarında da giderek daha fazla uygulanmaktadır. Nadiren tek başına bir teknoloji olarak kullanılmakla birlikte, uzun süredir kullanılan gözetim, tanımlama ve ayıklama biçimlerini artırmak ve hızlandırmak için mevcut teknolojiler arasında yaygın olarak kullanılmaktadır. Örneğin, hareket kalıpları, sosyal medya paylaşımları, siyasi çatışmalar, doğal afetler ve daha fazlası dahil olmak üzere büyük miktarda veriyi analiz eden algoritmik tahmin, göç modellerinin haritasını çıkarmak amacıyla giderek istatistiksel göç modellemesinin yerini almaktadır. Avrupa Komisyonu şu anda “riskli” davranışların yeni biçimlerini belirlemek için daha geniş veri kaynaklarından yararlanarak mevcut risk analizi biçimlerini genişletecek algoritmik yöntemlere yönelik araştırmaları finanse etmektedir. Makine öğrenimi ayrıca ‘yalan dedektörü’ sınır muhafızları, diyalekt tanıma, şüpheli gemilerin izlenmesi ve tanımlanması, AB’nin iç sınırlarında yüz tanıma ve Yunan kamplarındaki mahkumların davranışsal analizi. Bu geniş uygulama yelpazesinin de gösterdiği gibi, ister drone görüntülerinin destekli görüntü analizi ister sığınma taleplerinin incelenmesi olsun, makine öğreniminden muaf bir sınır teknolojisi yok gibi görünüyor.

Sınıflandırma, makine öğreniminin ya da en azından günümüzde baskın hale gelen veri odaklı makine öğreniminin özünde yatmaktadır. Bireysel veri noktaları, denetimli veya denetimsiz öğrenme yoluyla yürütülen bir süreç olan kategoriler ve alt kategoriler halinde düzenlenir. Denetimli öğrenmede, eğitim verileri önceden tanımlanmış bir taksonomiye göre etiketlenir. Pratikte bu genellikle insanların söz konusu köpeğin görüntüsüne ‘köpek’ gibi etiketler ataması anlamına gelir. Makine öğrenimi modeli, etiketlerle ilişkili örüntüleri tanımlayarak bu etiketli veri kümesinden öğrenir. Denetimsiz öğrenmede veriler insanlar tarafından etiketlenmez. Bunun yerine, algoritma veri içindeki kalıpları ve yapıları bağımsız olarak tanımlar. Başka bir deyişle, algoritma veri kümesinin doğasında bulunan örüntülere dayalı olarak kendi kümelerini oluşturarak verileri sınıflandırır. İnsan tarafından oluşturulan sistemlerle uyumlu olabilecek veya olmayabilecek kendi kategori taksonomisini oluşturur.

Sözde suçlu tipi

Yapay zeka ve sınır akademisyeni Louise Amoore’un işaret ettiği gibi, algoritmik kümeleri verilerden elde edilen içsel, ‘doğal’ kalıpların bir temsili olarak ortaya koymak, ‘tarafsız, nesnel ve değerden bağımsız bir siyasi topluluk oluşturma ve sınırlama vaadi sunduğu’ için ‘olağanüstü güçlü bir siyasi önerme’dir.18 Algoritmik kümenin ‘doğal bir topluluk’ olduğu fikri, önemli bir ırksallaştırma hamlesi içermektedir: düzensiz göçle ilişkili davranış biçimleri sonuç olarak ‘riskli’ olarak etiketlenmektedir. Bu kümeler, milliyet veya din gibi ırk için ‘klasik’ vekiller gibi önceden tanımlanmış kriterlere atıfta bulunulmadan oluşturulduğundan, korunan özellikler veya önyargı gibi mevcut kavramlarla sorgulanmaları zordur.19 Örneğin, bir göçmen, seyahat güzergahları, sosyal medya paylaşımları, kişisel ve profesyonel ağlar ve hava durumu modelleri arasındaki şeffaf olmayan bir korelasyona dayanan bir makine öğrenimi algoritması tarafından bir güvenlik riski olarak tanımlanabilir.

İçsel niteliklere göre kategorilerin oluşturulması, diğer on dokuzuncu yüzyıl uygulamalarını yankılamakta ve genişletmektedir: yani, suç davranışına işaret edecek düzenlilikleri ve kalıpları belirlemek için ölçüm ve istatistikleri kullanan bir dizi bilimsel çaba. Denetimsiz makine öğrenimi gibi, kraniyometri, frenoloji ve kriminal antropoloji alanları, suç kategorilerine ayrılabilecek kalıpları toplamak için insan denekler hakkında sistematik olarak veri biriktirmiştir.

Örneğin, Franz Joseph Gall gibi frenologlar belirli kişilik özelliklerini kafatasının öne çıkan bölgeleriyle ilişkilendirmiştir. İlgili fizyonomi alanında, İsviçreli papaz Johann Kaspar Lavater gibi isimler, suçlu davranışına rehberlik etmesi için yüz hatları üzerinde sistematik bir çalışma yürüttü. Fotoğrafçılığın gelişmesiyle birlikte, yüzdeki suçluluk belirtilerini araştıran çalışmalar hız kazanmış, mahkumlar ve akıl hastanesi mahkumları defalarca bu tür ‘çalışmalara’ tabi tutulmuştur. Öjenik hareketinin kurucusu ve parmak izi tespitinin öncülerinden Frances Galton’un kompozit fotoğrafları buna bir örnektir: mahkumların görüntüleri, suçluluğun fiziksel işaretleri olarak düzenlilikler elde etmek için üst üste bindirilmiştir.20

Kriminal antropoloji bu yaklaşımları, suçlu bedenini bilimsel incelemeye tabi tutmaya yönelik tutarlı bir girişimde birleştirdi. İtalyan psikiyatrist ve antropolog Cesare Lombroso’nun önderliğinde kriminal antropologlar, Bertillon’un hassas uzuv ölçümlerinden kraniyometrik kafatası ölçümlerine, yüz hatlarının haritasının çıkarılmasına ve yara izleri ve dövmeler gibi ayırt edici işaretlerin not edilmesine kadar çok çeşitli antropomorfik ölçüm araçları kullandılar. Bu temelde, ‘doğuştan suçlu’nun vücudunda bulunan sözde ‘stigmata’ veya fiziksel düzenliliklerin bir listesini çıkardılar Bu kavram bugün yaygın olarak gözden düşmüş olsa da, toplu veri özelliklerine dayalı temel sınıflandırma yöntemi hala varlığını sürdürmektedir.

Yüz özelliklerinin nicel analizinden çıkarılan sonuçlara güvenmek güçlü bir cazibe olmaya devam ediyor. Bir 2016 makalesi ehliyetlerden alınan kafa fotoğraflarına dayanarak suçluluğu tahmin etmek için derin bir sinir ağı algoritmasını başarıyla eğittiğini iddia ederken, bir 2018 çalışması arkadaşlık sitesi fotoğraflarından cinsel yönelimi okuma konusunda benzer iddialarda bulundu.

Bu sistemlerle eleştirel bir şekilde ilgilenirken, desteklemek için konuşlandırıldıkları daha büyük siyasi projenin farkında olmak zorunludur. Yapay zeka uzmanı Kate Crawford’un yazdığı gibi: ‘Kafatası morfolojisini zeka ve yasal hak talepleriyle ilişkilendirmek, sömürgecilik ve kölelik için teknik bir mazeret görevi görüyor. Kafatası ölçümlerindeki hatalara ve bunların nasıl düzeltileceğine odaklanma eğilimi olsa da, çok daha büyük hata bu metodolojiyi canlandıran temel dünya görüşündedir. O halde amaç, ırkçı zeka modellerini desteklemek için daha doğru ya da “adil” kafatası ölçümleri talep etmek değil, bu yaklaşımı tümüyle mahkum etmek olmalıdır.”21 Başka bir deyişle, sınıflandırma ve nicelleştirme teknikleri, doğrulamak ve kefil olmak için görevlendirildikleri sosyo-politik bağlamlardan ayrı tutulamaz. Uluslararası İlişkiler uzmanı Robert Cox’un ifadesiyle, sınıflandırma ve nicelleştirme her zaman birileri için ve bir amaç içindir.22

Bilim ve Teknoloji Çalışmaları uzmanı Helga Nowotny’nin de belirttiği gibi, algoritmik tahmin sonuçlarının temelde doğru olduğuna ‘güvenirsek’, derin sinir ağlarının mantığını yanlış anlamış oluruz. Bu ağlar ‘yalnızca düzenlilikleri tespit edebilir ve geçmişten gelen verilere dayanarak kalıpları tanımlayabilir. Nedensel muhakeme söz konusu değildir ve bir yapay zeka da öyleymiş gibi davranmaz.”23

Bu makineler ‘pratik ve ölçülebilir tahminler’ üretebilseler de, neden-sonuç ilişkisi kuramazlar – kısacası, insani anlamda bir ‘anlayışa’ sahip değildirler.24 Dahası, algoritmalara aşırı güvenmek bizi determinizme iter ve davranışlarımızı alternatif yollar yerine makine öngörüleriyle uyumlu hale getirir. Bu, hesap verebilirlik üzerine kurulu siyasi kültürlerde bir sorundur. Daha iyi gelecekler inşa etmek için geçmişten ders almak istiyorsak, bir makine öğrenimi modelinin öngörücü çıktılarına güvenemeyiz.

AI déjà-vu

On dokuzuncu yüzyıldan günümüze gözetim ve kimlik belirleme teknolojilerinin iç içe geçmiş tarihini keşfetmek için nicelleştirme ve sınıflandırmaya duyulan ortak ve süregelen güvenin yanı sıra pek çok konudan faydalanılabilir. Hükümlüler ve sömürgeleştirilmiş insanlar gibi marjinalleştirilmiş, fazlalık nüfuslar uzun zamandır sınıflandırma sistemlerini geliştirmek ve algoritmaları eğitmek için ‘teknolojik test alanları‘ olarak kullanılmaktadır. Kontrolsüz insan hareketliliği korkusu, araştırma ve geliştirme için bir itici güç olarak kullanılmaya devam ediyor ve teknoloji de kendi yarattığı sorunları çözmek için kullanılıyor. Ve pozitivist sosyal bilimsel yöntemler, kükreyen çoklukları düzgün, sayısal değerlere dönüştürme görevinin aracı olmaya devam ediyor.

YZ aldatmacasına kanmak yerine, kendimizi bir deja-vu duygusuna, yani tüm bunları daha önce gördüğümüze dair tedirgin edici duyguya ayarlayabiliriz. Bu şekilde, kurumsal ve sınır aktörleri tarafından ortaya atılan fantastik iddialara daha iyi direnebilir ve teknolojileri küresel tahakküm projelerinden ayırmaya başlayabiliriz.

**

Bu makale ‘Elastic Borders’ projesi kapsamında yürütülen araştırmaya dayanmaktadır: Rethinking the Borders of the 21st Century’ Graz Üniversitesi merkezli, NOMIS vakfı tarafından finanse edilmektedir.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, levha 16, s. 262.

2 NOMIS tarafından finanse edilen Elastik Sınırlar projesinde, Graz Üniversitesi, Avusturya'daki araştırmacı ekibinin bir parçasıyım.

3 Ayrıca bkz: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Antropometriden hesaplamalı sosyal bilimlere insan bedenini ölçmek', Public, Cilt 30, No. 60, 2020, s. 20-33; A. Valdivia ve M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Eğer parmak izleri Yunanistan'da alınmış, ancak sığınmacı daha sonra Almanya'da yakalanmışsa, başvurusunun işleme konulması için Yunanistan'a gönderilmekle karşı karşıya kalabilir.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa ve D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: Karşılaştırmalı ve disiplinler arası bir analiz (çalışma raporu), İsviçre Uluslararası Çalışmalar Ağı, 2021, s. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., s. 91.

8 M. Foucault, Toplum Savunulmalıdır. Lectures at the Collège de France, 1975-76, çev. D. Macey, Picador, 2003, s. 244.

9 S. A. Cole, Şüpheli kimlikleri: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s.12.

10 Ibid., s. 18-9.

11 Ibid., s. 34-45.

12 Ibid., s.48.

13 M. Foucault, The Order of Things. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Varlığın/gücün/hakikatin/özgürlüğün sömürgeciliğini sarsmak: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker ve S. L. Star, Sorting things out: Classification and its consequences, MIT press, 2000, s. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ibid.

20 Galton benzer bir çalışmayı Yahudi okul çocukları üzerinde yürütmüş ve Yahudiliğin ırksal işaretlerini aramıştır.

.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.

22 R. W. Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, s. 22.

24 Ibid.

Suçluluğun işaretlenmesi

Ulus devletler yüzyıllardır vergilendirme ve askere alma gibi amaçlarla vatandaşları hakkında veri toplarken, bu verilerin endekslenmesi, veri tabanlarında düzenlenmesi ve ‘istenmeyen’ nüfusun hareketliliğini kontrol etmek gibi belirli hükümet amaçları için sınıflandırılması on dokuzuncu yüzyıl icadıdır.6 Fransız tarihçi ve filozof Michel Foucault, artan kentleşme ve sanayileşme bağlamında devletlerin ‘dolaşım’ sorunuyla nasıl giderek daha fazla meşgul olmaya başladığını anlatıyor. Kişiler ve malların yanı sıra patojenler de erken modern dönemde olduğundan daha fazla dolaşıma girmiştir.7 Devletler bu hareketleri tamamen bastırmaya veya kontrol etmeye çalışmasa da, ‘olumlu’ dolaşım olarak görülenleri artırmanın ve ‘olumsuz’ dolaşımı en aza indirmenin yollarını aramışlardır. Bu amaçla pozitivist bir sosyal bilimin yeni araçlarını kullandılar: doğumlar, kazalar, hastalıklar ve ölümler gibi olguları izlemek ve düzenlemek için demografi alanında istatistiksel yaklaşımlar kullanıldı.8 Ortaya çıkan yönetimsel ulus devlet, nüfus hakkında ayrıntılı bilgi toplayan ve standartlaştırılmış depolama ve analiz yöntemleri geliştiren çok özel bir araç seti geliştirerek dolaşım sorununu ele aldı.

Özellikle can sıkıcı bir sorun, bilinen suçluların dolaşımı idi. On dokuzuncu yüzyılda, bir kişi bir kez suç işlediyse, tekrar suç işleyeceğine inanılıyordu. Ancak, suçluların tespiti için mevcut sistemler bu görev için ne yazık ki yetersizdi.

Kriminolog Simon Cole’un açıkladığı gibi, bilinmeyen bir kişinin kimliğini tespit etmek için ‘gerçekten benzersiz bir vücut işareti’ gerekir.9 Ancak modern kimlik tespit sistemlerinin ortaya çıkmasından önce bunu yapmanın sadece iki yolu vardı: damgalama veya kişisel tanıma. Damgalama, Avrupa ve Kuzey Amerika’da hükümlüler, mahkumlar ve köleler üzerinde yaygın olarak kullanılmış olsa da, suç ve ceza konusunda gelişen fikirler, on dokuzuncu yüzyılın başlarında fiziksel işaretlemenin büyük ölçüde kaldırılmasına yol açtı. Onun yerine sabıka kaydı oluşturuldu: hükümlünün adını ve tanımlayıcı işaretler ve yara izleri de dahil olmak üzere kişiliğinin yazılı bir tanımını kataloglayan yazılı bir belge.

Ancak, bir şüpheliyi yalnızca yazılı bir tariften tanımlamak zordu. Ve sistem, takma adların kullanımına ve isimlerin farklı yazılışlarına karşı savunmasızdı: yalnızca kendi toplulukları tarafından bilinen bir kişi kesin olarak tanımlanabilirdi. İlk suçlu tanımlama sistemleri temelde hareketliliğe karşı savunmasızdı.10 Özellikle, bu sorunlar çağdaş göç yönetimine musallat olmaya devam etmiştir çünkü veritabanları genellikle aynı kişi için Arap alfabesinden Roma alfabesine farklı isim çevirilerinden kaynaklanan birden fazla giriş içerir.

1840’larda fotoğrafın icadı, suçluların kimlik tespitinin güvenilirliği sorununu çözmek için çok az şey yaptı. Fotoğrafik bir kayıt hala kişisel tanıma bağlı olmakla kalmıyor, aynı zamanda arşivleme sorununu da gündeme getiriyordu. Bertillonage’dan önceki suç kayıtları ya yıllık suç özetleri ya da suçluların alfabetik listeleri olarak saklanıyordu. Fotoğraflar yüzün daha doğru bir temsilini sağlasa da, bunları özelliklere göre arşivlemenin bir yolu yoktu. Örneğin çenesi belirgin olan bir kişi için indekste arama yapılmak istendiğinde, bunu yapmak için herhangi bir prosedür yoktu. Hükümlülerin fotoğrafları, suçlu tarafından verilen isme göre alfabetik olarak sıralanıyordu ve bu nedenle diğer kimlik belirleme sistemleriyle aynı zayıflıktan muzdaripti.

Datafication’ın atası

Alphonse Bertillon, insan vücudunun sistematik ölçümlerini arşivleme ve kayıt tutma ile birleştirerek bu sorunu çözen ilk kişi oldu. Kriminolog, kayıtları alfabetik yerine sayısal olarak sıralayarak kayıt erişimini geliştirdi ve tamamen antropomorfik ölçümlere dayalı bir indeksleme sistemi oluşturdu. Dizin kartları hiyerarşik bir sınıflandırma sistemine göre düzenlenmiş, bilgiler önce cinsiyete, sonra baş uzunluğuna, baş genişliğine, orta parmak uzunluğuna ve benzerlerine göre ayrılmıştır. Her bir ölçüm seti, nüfus içindeki dağılımlarının istatistiksel değerlendirmesine dayalı olarak gruplara ayrılmış ve mahkumlardan ölçümler alınarak ortalamalar oluşturulmuştur. Bertillon operatörü bir şüphelinin profilini arşive götürüyor ve bir eleme süreciyle bir eşleşme arıyordu: önce eşleşmeyen cinsiyet, sonra eşleşmeyen kafa uzunlukları ve benzeri. Geçici bir eşleşme bulunursa, bu kartta da listelenen vücut izlerine bakılarak teyit ediliyordu. Bu sistemin uygulandığı her yerde, ‘yeniden suç işleyenlerin’ tanınma oranları yükseldi; Bertillon’un sistemi kısa sürede tüm dünyaya yayıldı.11

Bertillon’la birlikte, çağdaş sınır ve gözetim teknolojisinin bir başka özelliği daha çerçeveye girdi: nicelleştirme ya da bugün ‘verileştirme’ olarak bilinen şey. Bertillon sadece mahkumların boylarını ve kafa uzunluklarını ölçmekle kalmadı, aynı zamanda vücudun ayırt edici özelliklerini koda çevirmek için bir yöntem icat etti. Örneğin, bir mahkumun ön kolunda bir yara izi varsa, önceki suçlu tespit sistemleri bunu dosyaya not ederdi. Buna karşılık Bertillon, belirli bir referans noktasına olan mesafelerini ölçtü. Bunlar daha sonra kısaltmalar ve sembollerden oluşan bir deyim kullanılarak standart bir şekilde kaydedildi ve bu tanımlamalar kısaltılmış bir biçimde sunuldu. Ortaya çıkan portrait parlé, veya sözlü portre, fiziksel bedeni ‘kelimeler, sayılar ve kodlanmış kısaltmalardan’ oluşan ‘evrensel bir dile’ dönüştürdü.12 Tarihte ilk kez, kesin bir konu tanımı telgrafla iletilebildi.

Vücudun koda dönüştürülmesi, çağdaş biyometrik tanımlama yöntemlerinin temelini oluşturmaya devam etmektedir. Parmak izi tanımlama sistemleri ilk olarak sömürge Hindistan’ında denenmiş ve yaygınlaştırılmıştır; papiller sırt desenlerini bir koda dönüştürür ve bu kod daha sonra aynı şekilde üretilen diğer kodlarla karşılaştırılabilir. Yüz tanıma teknolojisi, yüzün şematik temsillerini üretir ve bunlara sayısal değerler atar, böylece karşılaştırma ve eşleştirmeye izin verir. Ses kimliği, iris taramaları ve yürüyüş tanıma gibi diğer biyometrik kimlik biçimleri de aynı prensibi takip eder.

Taksonomiden makine öğrenimine

Nicelleştirmenin yanı sıra, yüzyıllardır bilgi üretiminin ve yönetişimin temel araçlarından biri olan sınıflandırma, modern ve çağdaş gözetim ve kimlik belirleme teknolojilerinin bir diğer ayırt edici özelliğidir. Foucault13 dan Zygmunt Bauman14 ve Denise Ferreira da Silva15 ya kadar pek çok akademisyenin belirttiği gibi, sınıflandırma, Carl Linnaeus’un taksonomisinde en ikonik şekilde kanıtlandığı üzere, Avrupa Aydınlanmasının merkezi bir aracıdır. Linnaeus, dereceli tablosunda bitkilerden böceklere ve insanlara kadar doğal dünyayı adlandırmış, sınıflandırmış ve hiyerarşik olarak sıralamış, her grubu ortak özelliklerine göre bölmüş ve alt bölümlere ayırmıştır. Sınıflandırma ve taksonomiler, erken modern dönemde teosentrik epistemolojiden rasyonalist epistemolojiye temel epistemolojik kaymaların bir ifadesi olarak görülmekte olup, bilimsel atılımları mümkün kılmış, ancak aynı zamanda sömürgeleştirme ve köleleştirme ile de bağlantılı olmuştur.16 Konuyla ilgili kitaplarında Geoffrey Bowker ve Susan Leigh Star, sınıflandırmanın güçlü ancak çoğu zaman fark edilmeyen bir siyasi düzenleme aracı olarak kullanıldığının altını çiziyor: ‘Siyasi ve sosyal olarak yüklü gündemler genellikle ilk başta tamamen teknik olarak sunulur ve görülmeleri bile zordur. Sınıflandırma sisteminin katmanları işleyen bir altyapıya dönüştükçe, asıl siyasi müdahale giderek daha sıkı bir şekilde yerleşir. Birçok durumda bu, bir yakınsama süreci yoluyla siyasi kategorinin doğallaşmasına yol açar. ‘17

Bugün sınıflandırma, büyük miktarda verideki örüntüleri ayırt etmek için tasarlanmış bir yapay zeka alt alanı olan makine öğreniminin merkezinde yer almaktadır. Bu, yalnızca büyük miktarda bilgiyi kategorize etmesine değil, aynı zamanda yeni, daha önce görülmemiş verileri tahmin etmesine ve sınıflandırmasına da olanak tanır. Başka bir deyişle, öğrenilen bilgiyi yeni durumlara uygular. Makine öğrenimi üzerine araştırmalar geçen yüzyılın ortalarında başlamış olsa da, ChatGPT gibi uygulamalarla son zamanlarda benzeri görülmemiş bir şekilde öne çıkmıştır.

Makine öğrenimi sınır çalışmalarında da giderek daha fazla uygulanmaktadır. Nadiren tek başına bir teknoloji olarak kullanılmakla birlikte, uzun süredir kullanılan gözetim, tanımlama ve ayıklama biçimlerini artırmak ve hızlandırmak için mevcut teknolojiler arasında yaygın olarak kullanılmaktadır. Örneğin, hareket kalıpları, sosyal medya paylaşımları, siyasi çatışmalar, doğal afetler ve daha fazlası dahil olmak üzere büyük miktarda veriyi analiz eden algoritmik tahmin, göç modellerinin haritasını çıkarmak amacıyla giderek istatistiksel göç modellemesinin yerini almaktadır. Avrupa Komisyonu şu anda “riskli” davranışların yeni biçimlerini belirlemek için daha geniş veri kaynaklarından yararlanarak mevcut risk analizi biçimlerini genişletecek algoritmik yöntemlere yönelik araştırmaları finanse etmektedir. Makine öğrenimi ayrıca ‘yalan dedektörü’ sınır muhafızları, diyalekt tanıma, şüpheli gemilerin izlenmesi ve tanımlanması, AB’nin iç sınırlarında yüz tanıma ve Yunan kamplarındaki mahkumların davranışsal analizi. Bu geniş uygulama yelpazesinin de gösterdiği gibi, ister drone görüntülerinin destekli görüntü analizi ister sığınma taleplerinin incelenmesi olsun, makine öğreniminden muaf bir sınır teknolojisi yok gibi görünüyor.

Sınıflandırma, makine öğreniminin ya da en azından günümüzde baskın hale gelen veri odaklı makine öğreniminin özünde yatmaktadır. Bireysel veri noktaları, denetimli veya denetimsiz öğrenme yoluyla yürütülen bir süreç olan kategoriler ve alt kategoriler halinde düzenlenir. Denetimli öğrenmede, eğitim verileri önceden tanımlanmış bir taksonomiye göre etiketlenir. Pratikte bu genellikle insanların söz konusu köpeğin görüntüsüne ‘köpek’ gibi etiketler ataması anlamına gelir. Makine öğrenimi modeli, etiketlerle ilişkili örüntüleri tanımlayarak bu etiketli veri kümesinden öğrenir. Denetimsiz öğrenmede veriler insanlar tarafından etiketlenmez. Bunun yerine, algoritma veri içindeki kalıpları ve yapıları bağımsız olarak tanımlar. Başka bir deyişle, algoritma veri kümesinin doğasında bulunan örüntülere dayalı olarak kendi kümelerini oluşturarak verileri sınıflandırır. İnsan tarafından oluşturulan sistemlerle uyumlu olabilecek veya olmayabilecek kendi kategori taksonomisini oluşturur.

Sözde suçlu tipi

Yapay zeka ve sınır akademisyeni Louise Amoore’un işaret ettiği gibi, algoritmik kümeleri verilerden elde edilen içsel, ‘doğal’ kalıpların bir temsili olarak ortaya koymak, ‘tarafsız, nesnel ve değerden bağımsız bir siyasi topluluk oluşturma ve sınırlama vaadi sunduğu’ için ‘olağanüstü güçlü bir siyasi önerme’dir.18 Algoritmik kümenin ‘doğal bir topluluk’ olduğu fikri, önemli bir ırksallaştırma hamlesi içermektedir: düzensiz göçle ilişkili davranış biçimleri sonuç olarak ‘riskli’ olarak etiketlenmektedir. Bu kümeler, milliyet veya din gibi ırk için ‘klasik’ vekiller gibi önceden tanımlanmış kriterlere atıfta bulunulmadan oluşturulduğundan, korunan özellikler veya önyargı gibi mevcut kavramlarla sorgulanmaları zordur.19 Örneğin, bir göçmen, seyahat güzergahları, sosyal medya paylaşımları, kişisel ve profesyonel ağlar ve hava durumu modelleri arasındaki şeffaf olmayan bir korelasyona dayanan bir makine öğrenimi algoritması tarafından bir güvenlik riski olarak tanımlanabilir.

İçsel niteliklere göre kategorilerin oluşturulması, diğer on dokuzuncu yüzyıl uygulamalarını yankılamakta ve genişletmektedir: yani, suç davranışına işaret edecek düzenlilikleri ve kalıpları belirlemek için ölçüm ve istatistikleri kullanan bir dizi bilimsel çaba. Denetimsiz makine öğrenimi gibi, kraniyometri, frenoloji ve kriminal antropoloji alanları, suç kategorilerine ayrılabilecek kalıpları toplamak için insan denekler hakkında sistematik olarak veri biriktirmiştir.

Örneğin, Franz Joseph Gall gibi frenologlar belirli kişilik özelliklerini kafatasının öne çıkan bölgeleriyle ilişkilendirmiştir. İlgili fizyonomi alanında, İsviçreli papaz Johann Kaspar Lavater gibi isimler, suçlu davranışına rehberlik etmesi için yüz hatları üzerinde sistematik bir çalışma yürüttü. Fotoğrafçılığın gelişmesiyle birlikte, yüzdeki suçluluk belirtilerini araştıran çalışmalar hız kazanmış, mahkumlar ve akıl hastanesi mahkumları defalarca bu tür ‘çalışmalara’ tabi tutulmuştur. Öjenik hareketinin kurucusu ve parmak izi tespitinin öncülerinden Frances Galton’un kompozit fotoğrafları buna bir örnektir: mahkumların görüntüleri, suçluluğun fiziksel işaretleri olarak düzenlilikler elde etmek için üst üste bindirilmiştir.20

Kriminal antropoloji bu yaklaşımları, suçlu bedenini bilimsel incelemeye tabi tutmaya yönelik tutarlı bir girişimde birleştirdi. İtalyan psikiyatrist ve antropolog Cesare Lombroso’nun önderliğinde kriminal antropologlar, Bertillon’un hassas uzuv ölçümlerinden kraniyometrik kafatası ölçümlerine, yüz hatlarının haritasının çıkarılmasına ve yara izleri ve dövmeler gibi ayırt edici işaretlerin not edilmesine kadar çok çeşitli antropomorfik ölçüm araçları kullandılar. Bu temelde, ‘doğuştan suçlu’nun vücudunda bulunan sözde ‘stigmata’ veya fiziksel düzenliliklerin bir listesini çıkardılar Bu kavram bugün yaygın olarak gözden düşmüş olsa da, toplu veri özelliklerine dayalı temel sınıflandırma yöntemi hala varlığını sürdürmektedir.

Yüz özelliklerinin nicel analizinden çıkarılan sonuçlara güvenmek güçlü bir cazibe olmaya devam ediyor. Bir 2016 makalesi ehliyetlerden alınan kafa fotoğraflarına dayanarak suçluluğu tahmin etmek için derin bir sinir ağı algoritmasını başarıyla eğittiğini iddia ederken, bir 2018 çalışması arkadaşlık sitesi fotoğraflarından cinsel yönelimi okuma konusunda benzer iddialarda bulundu.

Bu sistemlerle eleştirel bir şekilde ilgilenirken, desteklemek için konuşlandırıldıkları daha büyük siyasi projenin farkında olmak zorunludur. Yapay zeka uzmanı Kate Crawford’un yazdığı gibi: ‘Kafatası morfolojisini zeka ve yasal hak talepleriyle ilişkilendirmek, sömürgecilik ve kölelik için teknik bir mazeret görevi görüyor. Kafatası ölçümlerindeki hatalara ve bunların nasıl düzeltileceğine odaklanma eğilimi olsa da, çok daha büyük hata bu metodolojiyi canlandıran temel dünya görüşündedir. O halde amaç, ırkçı zeka modellerini desteklemek için daha doğru ya da “adil” kafatası ölçümleri talep etmek değil, bu yaklaşımı tümüyle mahkum etmek olmalıdır.”21 Başka bir deyişle, sınıflandırma ve nicelleştirme teknikleri, doğrulamak ve kefil olmak için görevlendirildikleri sosyo-politik bağlamlardan ayrı tutulamaz. Uluslararası İlişkiler uzmanı Robert Cox’un ifadesiyle, sınıflandırma ve nicelleştirme her zaman birileri için ve bir amaç içindir.22

Bilim ve Teknoloji Çalışmaları uzmanı Helga Nowotny’nin de belirttiği gibi, algoritmik tahmin sonuçlarının temelde doğru olduğuna ‘güvenirsek’, derin sinir ağlarının mantığını yanlış anlamış oluruz. Bu ağlar ‘yalnızca düzenlilikleri tespit edebilir ve geçmişten gelen verilere dayanarak kalıpları tanımlayabilir. Nedensel muhakeme söz konusu değildir ve bir yapay zeka da öyleymiş gibi davranmaz.”23

Bu makineler ‘pratik ve ölçülebilir tahminler’ üretebilseler de, neden-sonuç ilişkisi kuramazlar – kısacası, insani anlamda bir ‘anlayışa’ sahip değildirler.24 Dahası, algoritmalara aşırı güvenmek bizi determinizme iter ve davranışlarımızı alternatif yollar yerine makine öngörüleriyle uyumlu hale getirir. Bu, hesap verebilirlik üzerine kurulu siyasi kültürlerde bir sorundur. Daha iyi gelecekler inşa etmek için geçmişten ders almak istiyorsak, bir makine öğrenimi modelinin öngörücü çıktılarına güvenemeyiz.

AI déjà-vu

On dokuzuncu yüzyıldan günümüze gözetim ve kimlik belirleme teknolojilerinin iç içe geçmiş tarihini keşfetmek için nicelleştirme ve sınıflandırmaya duyulan ortak ve süregelen güvenin yanı sıra pek çok konudan faydalanılabilir. Hükümlüler ve sömürgeleştirilmiş insanlar gibi marjinalleştirilmiş, fazlalık nüfuslar uzun zamandır sınıflandırma sistemlerini geliştirmek ve algoritmaları eğitmek için ‘teknolojik test alanları‘ olarak kullanılmaktadır. Kontrolsüz insan hareketliliği korkusu, araştırma ve geliştirme için bir itici güç olarak kullanılmaya devam ediyor ve teknoloji de kendi yarattığı sorunları çözmek için kullanılıyor. Ve pozitivist sosyal bilimsel yöntemler, kükreyen çoklukları düzgün, sayısal değerlere dönüştürme görevinin aracı olmaya devam ediyor.

YZ aldatmacasına kanmak yerine, kendimizi bir deja-vu duygusuna, yani tüm bunları daha önce gördüğümüze dair tedirgin edici duyguya ayarlayabiliriz. Bu şekilde, kurumsal ve sınır aktörleri tarafından ortaya atılan fantastik iddialara daha iyi direnebilir ve teknolojileri küresel tahakküm projelerinden ayırmaya başlayabiliriz.

**

Bu makale ‘Elastic Borders’ projesi kapsamında yürütülen araştırmaya dayanmaktadır: Rethinking the Borders of the 21st Century’ Graz Üniversitesi merkezli, NOMIS vakfı tarafından finanse edilmektedir.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, levha 16, s. 262.

2 NOMIS tarafından finanse edilen Elastik Sınırlar projesinde, Graz Üniversitesi, Avusturya'daki araştırmacı ekibinin bir parçasıyım.

3 Ayrıca bkz: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Antropometriden hesaplamalı sosyal bilimlere insan bedenini ölçmek', Public, Cilt 30, No. 60, 2020, s. 20-33; A. Valdivia ve M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Eğer parmak izleri Yunanistan'da alınmış, ancak sığınmacı daha sonra Almanya'da yakalanmışsa, başvurusunun işleme konulması için Yunanistan'a gönderilmekle karşı karşıya kalabilir.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa ve D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: Karşılaştırmalı ve disiplinler arası bir analiz (çalışma raporu), İsviçre Uluslararası Çalışmalar Ağı, 2021, s. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., s. 91.

8 M. Foucault, Toplum Savunulmalıdır. Lectures at the Collège de France, 1975-76, çev. D. Macey, Picador, 2003, s. 244.

9 S. A. Cole, Şüpheli kimlikleri: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s.12.

10 Ibid., s. 18-9.

11 Ibid., s. 34-45.

12 Ibid., s.48.

13 M. Foucault, The Order of Things. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Varlığın/gücün/hakikatin/özgürlüğün sömürgeciliğini sarsmak: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker ve S. L. Star, Sorting things out: Classification and its consequences, MIT press, 2000, s. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ibid.

20 Galton benzer bir çalışmayı Yahudi okul çocukları üzerinde yürütmüş ve Yahudiliğin ırksal işaretlerini aramıştır.

.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.

22 R. W. Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, s. 22.

24 Ibid.

Modern istilacı kayıt

Akıllı sınır sistemleri ‘modern, etkili ve verimli‘ sınırlar yaratmak için ileri teknolojiler kullanmaktadır. Bu bağlamda, ileri teknolojiler genellikle kimlik tespiti, kayıt ve hareketlilik kontrolü gibi sınır süreçlerini tamamen teknik bir prosedüre dönüştürerek süreci daha adil ve insan hatalarına daha az eğilimli hale getirdiği şeklinde tasvir edilmektedir. Algoritmik hassasiyet, etik olmayan siyasi önyargılardan kaçınmanın ve insan hatasını düzeltmenin bir aracı olarak nitelendirilmektedir.

AB’nin yüksek teknolojili sınır aygıtının teknobilimsel temelleri üzerine çalışan bir araştırmacı olarak,2 hem çağdaş sınır uygulamalarının artan esnekliğinin hem de araç ve uygulamalarının tarihsel olarak yerleşik metodolojisinin farkındayım.3

Örneğin Eurodac veritabanı, AB sınır yönetiminin temel taşlarından biridir. Bu veri tabanı 2003 yılında kurulmuş olup, sığınmacıların parmak izlerini ilk girişe ilişkin Dublin Tüzüğü’nün bir uygulaması olarak saklamaktadır.4 Parmak izi alma ve birlikte çalışabilir veri tabanlarına kaydolma, kimlik atfının ‘hak eden’ ve ‘hak etmeyen’ göçmenleri filtrelemek için bir araç olarak kullanıldığı Hotspot Yaklaşımı gibi göç yönetimine yönelik son yaklaşımlarda da kullanılan merkezi araçlardır.5

Yıllar geçtikçe, Eurodac’ta depolanan verilerin hem türü hem de kullanım alanları genişlemiştir: kapsamı ‘daha geniş göç amaçlarına‘ hizmet edecek şekilde genişletilmiş, sadece sığınmacılar hakkında değil, sınır dışı edilmelerini kolaylaştırmak için düzensiz göçmenler hakkında da veri depolanmıştır. A son zamanlarda kabul edilen teklif parmak izine yüz görüntüleri ve isim, uyruk ve pasaport bilgileri dahil biyografik bilgileri de eklemiştir. Ayrıca, verileri saklanabilecek göçmenlerin asgari yaşı on dörtten altıya indirilmiştir.

2019’dan bu yana Eurodac, aranan kişiler, yabancı uyruklular, vize sahipleri ve ceza adaleti, göç ve iltica idarelerinin ilgilendiği diğer kişiler hakkında bilgi depolayan bir dizi diğer AB veritabanıyla ‘birlikte çalışabilir‘ hale geldi ve ceza adaleti ile göç arasında etkili bir bağlantı kurarken bu verilere erişimi de büyük ölçüde genişletti. Eurodac’ın Avrupalı yetkililer için kilit bir rol oynadığı, ‘%100 parmak izi oranına’ ulaşma çabalarından da anlaşılmaktadır: Avrupa Komisyonu üye devletleri yeni gelen her kişiyi veri tabanına kaydetmeye zorlamıştır, gerekirse fiziksel zorlama ve gözaltı kullanarak.

Suçluluğun işaretlenmesi

Ulus devletler yüzyıllardır vergilendirme ve askere alma gibi amaçlarla vatandaşları hakkında veri toplarken, bu verilerin endekslenmesi, veri tabanlarında düzenlenmesi ve ‘istenmeyen’ nüfusun hareketliliğini kontrol etmek gibi belirli hükümet amaçları için sınıflandırılması on dokuzuncu yüzyıl icadıdır.6 Fransız tarihçi ve filozof Michel Foucault, artan kentleşme ve sanayileşme bağlamında devletlerin ‘dolaşım’ sorunuyla nasıl giderek daha fazla meşgul olmaya başladığını anlatıyor. Kişiler ve malların yanı sıra patojenler de erken modern dönemde olduğundan daha fazla dolaşıma girmiştir.7 Devletler bu hareketleri tamamen bastırmaya veya kontrol etmeye çalışmasa da, ‘olumlu’ dolaşım olarak görülenleri artırmanın ve ‘olumsuz’ dolaşımı en aza indirmenin yollarını aramışlardır. Bu amaçla pozitivist bir sosyal bilimin yeni araçlarını kullandılar: doğumlar, kazalar, hastalıklar ve ölümler gibi olguları izlemek ve düzenlemek için demografi alanında istatistiksel yaklaşımlar kullanıldı.8 Ortaya çıkan yönetimsel ulus devlet, nüfus hakkında ayrıntılı bilgi toplayan ve standartlaştırılmış depolama ve analiz yöntemleri geliştiren çok özel bir araç seti geliştirerek dolaşım sorununu ele aldı.

Özellikle can sıkıcı bir sorun, bilinen suçluların dolaşımı idi. On dokuzuncu yüzyılda, bir kişi bir kez suç işlediyse, tekrar suç işleyeceğine inanılıyordu. Ancak, suçluların tespiti için mevcut sistemler bu görev için ne yazık ki yetersizdi.

Kriminolog Simon Cole’un açıkladığı gibi, bilinmeyen bir kişinin kimliğini tespit etmek için ‘gerçekten benzersiz bir vücut işareti’ gerekir.9 Ancak modern kimlik tespit sistemlerinin ortaya çıkmasından önce bunu yapmanın sadece iki yolu vardı: damgalama veya kişisel tanıma. Damgalama, Avrupa ve Kuzey Amerika’da hükümlüler, mahkumlar ve köleler üzerinde yaygın olarak kullanılmış olsa da, suç ve ceza konusunda gelişen fikirler, on dokuzuncu yüzyılın başlarında fiziksel işaretlemenin büyük ölçüde kaldırılmasına yol açtı. Onun yerine sabıka kaydı oluşturuldu: hükümlünün adını ve tanımlayıcı işaretler ve yara izleri de dahil olmak üzere kişiliğinin yazılı bir tanımını kataloglayan yazılı bir belge.

Ancak, bir şüpheliyi yalnızca yazılı bir tariften tanımlamak zordu. Ve sistem, takma adların kullanımına ve isimlerin farklı yazılışlarına karşı savunmasızdı: yalnızca kendi toplulukları tarafından bilinen bir kişi kesin olarak tanımlanabilirdi. İlk suçlu tanımlama sistemleri temelde hareketliliğe karşı savunmasızdı.10 Özellikle, bu sorunlar çağdaş göç yönetimine musallat olmaya devam etmiştir çünkü veritabanları genellikle aynı kişi için Arap alfabesinden Roma alfabesine farklı isim çevirilerinden kaynaklanan birden fazla giriş içerir.

1840’larda fotoğrafın icadı, suçluların kimlik tespitinin güvenilirliği sorununu çözmek için çok az şey yaptı. Fotoğrafik bir kayıt hala kişisel tanıma bağlı olmakla kalmıyor, aynı zamanda arşivleme sorununu da gündeme getiriyordu. Bertillonage’dan önceki suç kayıtları ya yıllık suç özetleri ya da suçluların alfabetik listeleri olarak saklanıyordu. Fotoğraflar yüzün daha doğru bir temsilini sağlasa da, bunları özelliklere göre arşivlemenin bir yolu yoktu. Örneğin çenesi belirgin olan bir kişi için indekste arama yapılmak istendiğinde, bunu yapmak için herhangi bir prosedür yoktu. Hükümlülerin fotoğrafları, suçlu tarafından verilen isme göre alfabetik olarak sıralanıyordu ve bu nedenle diğer kimlik belirleme sistemleriyle aynı zayıflıktan muzdaripti.

Datafication’ın atası

Alphonse Bertillon, insan vücudunun sistematik ölçümlerini arşivleme ve kayıt tutma ile birleştirerek bu sorunu çözen ilk kişi oldu. Kriminolog, kayıtları alfabetik yerine sayısal olarak sıralayarak kayıt erişimini geliştirdi ve tamamen antropomorfik ölçümlere dayalı bir indeksleme sistemi oluşturdu. Dizin kartları hiyerarşik bir sınıflandırma sistemine göre düzenlenmiş, bilgiler önce cinsiyete, sonra baş uzunluğuna, baş genişliğine, orta parmak uzunluğuna ve benzerlerine göre ayrılmıştır. Her bir ölçüm seti, nüfus içindeki dağılımlarının istatistiksel değerlendirmesine dayalı olarak gruplara ayrılmış ve mahkumlardan ölçümler alınarak ortalamalar oluşturulmuştur. Bertillon operatörü bir şüphelinin profilini arşive götürüyor ve bir eleme süreciyle bir eşleşme arıyordu: önce eşleşmeyen cinsiyet, sonra eşleşmeyen kafa uzunlukları ve benzeri. Geçici bir eşleşme bulunursa, bu kartta da listelenen vücut izlerine bakılarak teyit ediliyordu. Bu sistemin uygulandığı her yerde, ‘yeniden suç işleyenlerin’ tanınma oranları yükseldi; Bertillon’un sistemi kısa sürede tüm dünyaya yayıldı.11

Bertillon’la birlikte, çağdaş sınır ve gözetim teknolojisinin bir başka özelliği daha çerçeveye girdi: nicelleştirme ya da bugün ‘verileştirme’ olarak bilinen şey. Bertillon sadece mahkumların boylarını ve kafa uzunluklarını ölçmekle kalmadı, aynı zamanda vücudun ayırt edici özelliklerini koda çevirmek için bir yöntem icat etti. Örneğin, bir mahkumun ön kolunda bir yara izi varsa, önceki suçlu tespit sistemleri bunu dosyaya not ederdi. Buna karşılık Bertillon, belirli bir referans noktasına olan mesafelerini ölçtü. Bunlar daha sonra kısaltmalar ve sembollerden oluşan bir deyim kullanılarak standart bir şekilde kaydedildi ve bu tanımlamalar kısaltılmış bir biçimde sunuldu. Ortaya çıkan portrait parlé, veya sözlü portre, fiziksel bedeni ‘kelimeler, sayılar ve kodlanmış kısaltmalardan’ oluşan ‘evrensel bir dile’ dönüştürdü.12 Tarihte ilk kez, kesin bir konu tanımı telgrafla iletilebildi.

Vücudun koda dönüştürülmesi, çağdaş biyometrik tanımlama yöntemlerinin temelini oluşturmaya devam etmektedir. Parmak izi tanımlama sistemleri ilk olarak sömürge Hindistan’ında denenmiş ve yaygınlaştırılmıştır; papiller sırt desenlerini bir koda dönüştürür ve bu kod daha sonra aynı şekilde üretilen diğer kodlarla karşılaştırılabilir. Yüz tanıma teknolojisi, yüzün şematik temsillerini üretir ve bunlara sayısal değerler atar, böylece karşılaştırma ve eşleştirmeye izin verir. Ses kimliği, iris taramaları ve yürüyüş tanıma gibi diğer biyometrik kimlik biçimleri de aynı prensibi takip eder.

Taksonomiden makine öğrenimine

Nicelleştirmenin yanı sıra, yüzyıllardır bilgi üretiminin ve yönetişimin temel araçlarından biri olan sınıflandırma, modern ve çağdaş gözetim ve kimlik belirleme teknolojilerinin bir diğer ayırt edici özelliğidir. Foucault13 dan Zygmunt Bauman14 ve Denise Ferreira da Silva15 ya kadar pek çok akademisyenin belirttiği gibi, sınıflandırma, Carl Linnaeus’un taksonomisinde en ikonik şekilde kanıtlandığı üzere, Avrupa Aydınlanmasının merkezi bir aracıdır. Linnaeus, dereceli tablosunda bitkilerden böceklere ve insanlara kadar doğal dünyayı adlandırmış, sınıflandırmış ve hiyerarşik olarak sıralamış, her grubu ortak özelliklerine göre bölmüş ve alt bölümlere ayırmıştır. Sınıflandırma ve taksonomiler, erken modern dönemde teosentrik epistemolojiden rasyonalist epistemolojiye temel epistemolojik kaymaların bir ifadesi olarak görülmekte olup, bilimsel atılımları mümkün kılmış, ancak aynı zamanda sömürgeleştirme ve köleleştirme ile de bağlantılı olmuştur.16 Konuyla ilgili kitaplarında Geoffrey Bowker ve Susan Leigh Star, sınıflandırmanın güçlü ancak çoğu zaman fark edilmeyen bir siyasi düzenleme aracı olarak kullanıldığının altını çiziyor: ‘Siyasi ve sosyal olarak yüklü gündemler genellikle ilk başta tamamen teknik olarak sunulur ve görülmeleri bile zordur. Sınıflandırma sisteminin katmanları işleyen bir altyapıya dönüştükçe, asıl siyasi müdahale giderek daha sıkı bir şekilde yerleşir. Birçok durumda bu, bir yakınsama süreci yoluyla siyasi kategorinin doğallaşmasına yol açar. ‘17

Bugün sınıflandırma, büyük miktarda verideki örüntüleri ayırt etmek için tasarlanmış bir yapay zeka alt alanı olan makine öğreniminin merkezinde yer almaktadır. Bu, yalnızca büyük miktarda bilgiyi kategorize etmesine değil, aynı zamanda yeni, daha önce görülmemiş verileri tahmin etmesine ve sınıflandırmasına da olanak tanır. Başka bir deyişle, öğrenilen bilgiyi yeni durumlara uygular. Makine öğrenimi üzerine araştırmalar geçen yüzyılın ortalarında başlamış olsa da, ChatGPT gibi uygulamalarla son zamanlarda benzeri görülmemiş bir şekilde öne çıkmıştır.

Makine öğrenimi sınır çalışmalarında da giderek daha fazla uygulanmaktadır. Nadiren tek başına bir teknoloji olarak kullanılmakla birlikte, uzun süredir kullanılan gözetim, tanımlama ve ayıklama biçimlerini artırmak ve hızlandırmak için mevcut teknolojiler arasında yaygın olarak kullanılmaktadır. Örneğin, hareket kalıpları, sosyal medya paylaşımları, siyasi çatışmalar, doğal afetler ve daha fazlası dahil olmak üzere büyük miktarda veriyi analiz eden algoritmik tahmin, göç modellerinin haritasını çıkarmak amacıyla giderek istatistiksel göç modellemesinin yerini almaktadır. Avrupa Komisyonu şu anda “riskli” davranışların yeni biçimlerini belirlemek için daha geniş veri kaynaklarından yararlanarak mevcut risk analizi biçimlerini genişletecek algoritmik yöntemlere yönelik araştırmaları finanse etmektedir. Makine öğrenimi ayrıca ‘yalan dedektörü’ sınır muhafızları, diyalekt tanıma, şüpheli gemilerin izlenmesi ve tanımlanması, AB’nin iç sınırlarında yüz tanıma ve Yunan kamplarındaki mahkumların davranışsal analizi. Bu geniş uygulama yelpazesinin de gösterdiği gibi, ister drone görüntülerinin destekli görüntü analizi ister sığınma taleplerinin incelenmesi olsun, makine öğreniminden muaf bir sınır teknolojisi yok gibi görünüyor.

Sınıflandırma, makine öğreniminin ya da en azından günümüzde baskın hale gelen veri odaklı makine öğreniminin özünde yatmaktadır. Bireysel veri noktaları, denetimli veya denetimsiz öğrenme yoluyla yürütülen bir süreç olan kategoriler ve alt kategoriler halinde düzenlenir. Denetimli öğrenmede, eğitim verileri önceden tanımlanmış bir taksonomiye göre etiketlenir. Pratikte bu genellikle insanların söz konusu köpeğin görüntüsüne ‘köpek’ gibi etiketler ataması anlamına gelir. Makine öğrenimi modeli, etiketlerle ilişkili örüntüleri tanımlayarak bu etiketli veri kümesinden öğrenir. Denetimsiz öğrenmede veriler insanlar tarafından etiketlenmez. Bunun yerine, algoritma veri içindeki kalıpları ve yapıları bağımsız olarak tanımlar. Başka bir deyişle, algoritma veri kümesinin doğasında bulunan örüntülere dayalı olarak kendi kümelerini oluşturarak verileri sınıflandırır. İnsan tarafından oluşturulan sistemlerle uyumlu olabilecek veya olmayabilecek kendi kategori taksonomisini oluşturur.

Sözde suçlu tipi

Yapay zeka ve sınır akademisyeni Louise Amoore’un işaret ettiği gibi, algoritmik kümeleri verilerden elde edilen içsel, ‘doğal’ kalıpların bir temsili olarak ortaya koymak, ‘tarafsız, nesnel ve değerden bağımsız bir siyasi topluluk oluşturma ve sınırlama vaadi sunduğu’ için ‘olağanüstü güçlü bir siyasi önerme’dir.18 Algoritmik kümenin ‘doğal bir topluluk’ olduğu fikri, önemli bir ırksallaştırma hamlesi içermektedir: düzensiz göçle ilişkili davranış biçimleri sonuç olarak ‘riskli’ olarak etiketlenmektedir. Bu kümeler, milliyet veya din gibi ırk için ‘klasik’ vekiller gibi önceden tanımlanmış kriterlere atıfta bulunulmadan oluşturulduğundan, korunan özellikler veya önyargı gibi mevcut kavramlarla sorgulanmaları zordur.19 Örneğin, bir göçmen, seyahat güzergahları, sosyal medya paylaşımları, kişisel ve profesyonel ağlar ve hava durumu modelleri arasındaki şeffaf olmayan bir korelasyona dayanan bir makine öğrenimi algoritması tarafından bir güvenlik riski olarak tanımlanabilir.

İçsel niteliklere göre kategorilerin oluşturulması, diğer on dokuzuncu yüzyıl uygulamalarını yankılamakta ve genişletmektedir: yani, suç davranışına işaret edecek düzenlilikleri ve kalıpları belirlemek için ölçüm ve istatistikleri kullanan bir dizi bilimsel çaba. Denetimsiz makine öğrenimi gibi, kraniyometri, frenoloji ve kriminal antropoloji alanları, suç kategorilerine ayrılabilecek kalıpları toplamak için insan denekler hakkında sistematik olarak veri biriktirmiştir.

Örneğin, Franz Joseph Gall gibi frenologlar belirli kişilik özelliklerini kafatasının öne çıkan bölgeleriyle ilişkilendirmiştir. İlgili fizyonomi alanında, İsviçreli papaz Johann Kaspar Lavater gibi isimler, suçlu davranışına rehberlik etmesi için yüz hatları üzerinde sistematik bir çalışma yürüttü. Fotoğrafçılığın gelişmesiyle birlikte, yüzdeki suçluluk belirtilerini araştıran çalışmalar hız kazanmış, mahkumlar ve akıl hastanesi mahkumları defalarca bu tür ‘çalışmalara’ tabi tutulmuştur. Öjenik hareketinin kurucusu ve parmak izi tespitinin öncülerinden Frances Galton’un kompozit fotoğrafları buna bir örnektir: mahkumların görüntüleri, suçluluğun fiziksel işaretleri olarak düzenlilikler elde etmek için üst üste bindirilmiştir.20

Kriminal antropoloji bu yaklaşımları, suçlu bedenini bilimsel incelemeye tabi tutmaya yönelik tutarlı bir girişimde birleştirdi. İtalyan psikiyatrist ve antropolog Cesare Lombroso’nun önderliğinde kriminal antropologlar, Bertillon’un hassas uzuv ölçümlerinden kraniyometrik kafatası ölçümlerine, yüz hatlarının haritasının çıkarılmasına ve yara izleri ve dövmeler gibi ayırt edici işaretlerin not edilmesine kadar çok çeşitli antropomorfik ölçüm araçları kullandılar. Bu temelde, ‘doğuştan suçlu’nun vücudunda bulunan sözde ‘stigmata’ veya fiziksel düzenliliklerin bir listesini çıkardılar Bu kavram bugün yaygın olarak gözden düşmüş olsa da, toplu veri özelliklerine dayalı temel sınıflandırma yöntemi hala varlığını sürdürmektedir.

Yüz özelliklerinin nicel analizinden çıkarılan sonuçlara güvenmek güçlü bir cazibe olmaya devam ediyor. Bir 2016 makalesi ehliyetlerden alınan kafa fotoğraflarına dayanarak suçluluğu tahmin etmek için derin bir sinir ağı algoritmasını başarıyla eğittiğini iddia ederken, bir 2018 çalışması arkadaşlık sitesi fotoğraflarından cinsel yönelimi okuma konusunda benzer iddialarda bulundu.

Bu sistemlerle eleştirel bir şekilde ilgilenirken, desteklemek için konuşlandırıldıkları daha büyük siyasi projenin farkında olmak zorunludur. Yapay zeka uzmanı Kate Crawford’un yazdığı gibi: ‘Kafatası morfolojisini zeka ve yasal hak talepleriyle ilişkilendirmek, sömürgecilik ve kölelik için teknik bir mazeret görevi görüyor. Kafatası ölçümlerindeki hatalara ve bunların nasıl düzeltileceğine odaklanma eğilimi olsa da, çok daha büyük hata bu metodolojiyi canlandıran temel dünya görüşündedir. O halde amaç, ırkçı zeka modellerini desteklemek için daha doğru ya da “adil” kafatası ölçümleri talep etmek değil, bu yaklaşımı tümüyle mahkum etmek olmalıdır.”21 Başka bir deyişle, sınıflandırma ve nicelleştirme teknikleri, doğrulamak ve kefil olmak için görevlendirildikleri sosyo-politik bağlamlardan ayrı tutulamaz. Uluslararası İlişkiler uzmanı Robert Cox’un ifadesiyle, sınıflandırma ve nicelleştirme her zaman birileri için ve bir amaç içindir.22

Bilim ve Teknoloji Çalışmaları uzmanı Helga Nowotny’nin de belirttiği gibi, algoritmik tahmin sonuçlarının temelde doğru olduğuna ‘güvenirsek’, derin sinir ağlarının mantığını yanlış anlamış oluruz. Bu ağlar ‘yalnızca düzenlilikleri tespit edebilir ve geçmişten gelen verilere dayanarak kalıpları tanımlayabilir. Nedensel muhakeme söz konusu değildir ve bir yapay zeka da öyleymiş gibi davranmaz.”23

Bu makineler ‘pratik ve ölçülebilir tahminler’ üretebilseler de, neden-sonuç ilişkisi kuramazlar – kısacası, insani anlamda bir ‘anlayışa’ sahip değildirler.24 Dahası, algoritmalara aşırı güvenmek bizi determinizme iter ve davranışlarımızı alternatif yollar yerine makine öngörüleriyle uyumlu hale getirir. Bu, hesap verebilirlik üzerine kurulu siyasi kültürlerde bir sorundur. Daha iyi gelecekler inşa etmek için geçmişten ders almak istiyorsak, bir makine öğrenimi modelinin öngörücü çıktılarına güvenemeyiz.

AI déjà-vu

On dokuzuncu yüzyıldan günümüze gözetim ve kimlik belirleme teknolojilerinin iç içe geçmiş tarihini keşfetmek için nicelleştirme ve sınıflandırmaya duyulan ortak ve süregelen güvenin yanı sıra pek çok konudan faydalanılabilir. Hükümlüler ve sömürgeleştirilmiş insanlar gibi marjinalleştirilmiş, fazlalık nüfuslar uzun zamandır sınıflandırma sistemlerini geliştirmek ve algoritmaları eğitmek için ‘teknolojik test alanları‘ olarak kullanılmaktadır. Kontrolsüz insan hareketliliği korkusu, araştırma ve geliştirme için bir itici güç olarak kullanılmaya devam ediyor ve teknoloji de kendi yarattığı sorunları çözmek için kullanılıyor. Ve pozitivist sosyal bilimsel yöntemler, kükreyen çoklukları düzgün, sayısal değerlere dönüştürme görevinin aracı olmaya devam ediyor.

YZ aldatmacasına kanmak yerine, kendimizi bir deja-vu duygusuna, yani tüm bunları daha önce gördüğümüze dair tedirgin edici duyguya ayarlayabiliriz. Bu şekilde, kurumsal ve sınır aktörleri tarafından ortaya atılan fantastik iddialara daha iyi direnebilir ve teknolojileri küresel tahakküm projelerinden ayırmaya başlayabiliriz.

**

Bu makale ‘Elastic Borders’ projesi kapsamında yürütülen araştırmaya dayanmaktadır: Rethinking the Borders of the 21st Century’ Graz Üniversitesi merkezli, NOMIS vakfı tarafından finanse edilmektedir.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, levha 16, s. 262.

2 NOMIS tarafından finanse edilen Elastik Sınırlar projesinde, Graz Üniversitesi, Avusturya'daki araştırmacı ekibinin bir parçasıyım.

3 Ayrıca bkz: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Antropometriden hesaplamalı sosyal bilimlere insan bedenini ölçmek', Public, Cilt 30, No. 60, 2020, s. 20-33; A. Valdivia ve M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Eğer parmak izleri Yunanistan'da alınmış, ancak sığınmacı daha sonra Almanya'da yakalanmışsa, başvurusunun işleme konulması için Yunanistan'a gönderilmekle karşı karşıya kalabilir.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa ve D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: Karşılaştırmalı ve disiplinler arası bir analiz (çalışma raporu), İsviçre Uluslararası Çalışmalar Ağı, 2021, s. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., s. 91.

8 M. Foucault, Toplum Savunulmalıdır. Lectures at the Collège de France, 1975-76, çev. D. Macey, Picador, 2003, s. 244.

9 S. A. Cole, Şüpheli kimlikleri: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s.12.

10 Ibid., s. 18-9.

11 Ibid., s. 34-45.

12 Ibid., s.48.

13 M. Foucault, The Order of Things. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Varlığın/gücün/hakikatin/özgürlüğün sömürgeciliğini sarsmak: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker ve S. L. Star, Sorting things out: Classification and its consequences, MIT press, 2000, s. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ibid.

20 Galton benzer bir çalışmayı Yahudi okul çocukları üzerinde yürütmüş ve Yahudiliğin ırksal işaretlerini aramıştır.

.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.

22 R. W. Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, s. 22.

24 Ibid.

Bir tanımlama kataloğu

İnsan hareketliliğini kontrol etmek için ileri teknolojilerin kullanılması yeni bir şey değil. On dokuzuncu yüzyılın sonlarında bir Avrupa kenti polis karakolunu gözünüzün önüne getirin. Belediye en son kimlik belirleme teknolojisini benimsemiş olsaydı, şüpheliler karmaşık bir ölçüm sürecine tabi tutulurdu. Ölçümlerini almak, yetenekli ve eğitimli bir teknisyen gerektiren hassas ve son derece uzmanlaşmış bir süreçti.

Bu kulak ölçümü için talimatları göz önünde bulundurun:

Operatör, aletin sabit çenesini kulağın üst kenarına dayar ve sol başparmağını aletin çenesinin üst ucuna oldukça sıkı bir şekilde bastırarak hareketsiz hale getirir, elin diğer parmakları kafatasının üstüne dayanır. Kumpasın sapı kulak eksenine paralelken, hareketli çeneyi lobun alt ucuna değene kadar hafifçe iter ve belirtilen sayıyı okumadan önce kulak kepçesinin [kulağın dış kısmı] her iki çene tarafından hiçbir şekilde bastırılmadığından emin olur.1

Bu süreç kulağa Fin de Siècle döneminin tuhaf bir kalıntısı gibi gelebilir, ancak aslında hiç de öyle değildir. Bertillonage, 1870’lerde aynı adı taşıyan Fransız polis memuru tarafından geliştirilen suçlu tanımlama için ölçüm, sınıflandırma ve arşivleme sistemi, gözetim ve tanımlama teknolojisi tarihinde bir kilometre taşıdır. Dikkat çekici bir şekilde, temel ilkeleri, veri tabanından biyometri ve makine öğrenimine kadar günümüze kadar kimlik belirleme teknolojilerinin temelini oluşturmaktadır.

Çeşitli ‘istenmeyenlerin’ kontrolsüz dolaşımına ilişkin korkular ile teknolojik yenilikler arasında yakın ve tarihsel olarak kurulmuş bir bağ vardır. Serserilik, sömürge yönetimi, sapkınlık, delilik ve suçlulukla ilgili sorunları ele almak için geliştirilen ve rafine edilen on dokuzuncu yüzyıl teknikleri, günümüzün yüksek teknolojili sınır gözetim aygıtının temellerini oluşturmaktadır. Bu teknikler arasında insan bedenini bir kod haline getiren nicelleştirme, sınıflandırma ve modern indeksleme ve arşivleme yöntemleri yer almaktadır

.

Modern istilacı kayıt

Akıllı sınır sistemleri ‘modern, etkili ve verimli‘ sınırlar yaratmak için ileri teknolojiler kullanmaktadır. Bu bağlamda, ileri teknolojiler genellikle kimlik tespiti, kayıt ve hareketlilik kontrolü gibi sınır süreçlerini tamamen teknik bir prosedüre dönüştürerek süreci daha adil ve insan hatalarına daha az eğilimli hale getirdiği şeklinde tasvir edilmektedir. Algoritmik hassasiyet, etik olmayan siyasi önyargılardan kaçınmanın ve insan hatasını düzeltmenin bir aracı olarak nitelendirilmektedir.

AB’nin yüksek teknolojili sınır aygıtının teknobilimsel temelleri üzerine çalışan bir araştırmacı olarak,2 hem çağdaş sınır uygulamalarının artan esnekliğinin hem de araç ve uygulamalarının tarihsel olarak yerleşik metodolojisinin farkındayım.3

Örneğin Eurodac veritabanı, AB sınır yönetiminin temel taşlarından biridir. Bu veri tabanı 2003 yılında kurulmuş olup, sığınmacıların parmak izlerini ilk girişe ilişkin Dublin Tüzüğü’nün bir uygulaması olarak saklamaktadır.4 Parmak izi alma ve birlikte çalışabilir veri tabanlarına kaydolma, kimlik atfının ‘hak eden’ ve ‘hak etmeyen’ göçmenleri filtrelemek için bir araç olarak kullanıldığı Hotspot Yaklaşımı gibi göç yönetimine yönelik son yaklaşımlarda da kullanılan merkezi araçlardır.5

Yıllar geçtikçe, Eurodac’ta depolanan verilerin hem türü hem de kullanım alanları genişlemiştir: kapsamı ‘daha geniş göç amaçlarına‘ hizmet edecek şekilde genişletilmiş, sadece sığınmacılar hakkında değil, sınır dışı edilmelerini kolaylaştırmak için düzensiz göçmenler hakkında da veri depolanmıştır. A son zamanlarda kabul edilen teklif parmak izine yüz görüntüleri ve isim, uyruk ve pasaport bilgileri dahil biyografik bilgileri de eklemiştir. Ayrıca, verileri saklanabilecek göçmenlerin asgari yaşı on dörtten altıya indirilmiştir.

2019’dan bu yana Eurodac, aranan kişiler, yabancı uyruklular, vize sahipleri ve ceza adaleti, göç ve iltica idarelerinin ilgilendiği diğer kişiler hakkında bilgi depolayan bir dizi diğer AB veritabanıyla ‘birlikte çalışabilir‘ hale geldi ve ceza adaleti ile göç arasında etkili bir bağlantı kurarken bu verilere erişimi de büyük ölçüde genişletti. Eurodac’ın Avrupalı yetkililer için kilit bir rol oynadığı, ‘%100 parmak izi oranına’ ulaşma çabalarından da anlaşılmaktadır: Avrupa Komisyonu üye devletleri yeni gelen her kişiyi veri tabanına kaydetmeye zorlamıştır, gerekirse fiziksel zorlama ve gözaltı kullanarak.

Suçluluğun işaretlenmesi

Ulus devletler yüzyıllardır vergilendirme ve askere alma gibi amaçlarla vatandaşları hakkında veri toplarken, bu verilerin endekslenmesi, veri tabanlarında düzenlenmesi ve ‘istenmeyen’ nüfusun hareketliliğini kontrol etmek gibi belirli hükümet amaçları için sınıflandırılması on dokuzuncu yüzyıl icadıdır.6 Fransız tarihçi ve filozof Michel Foucault, artan kentleşme ve sanayileşme bağlamında devletlerin ‘dolaşım’ sorunuyla nasıl giderek daha fazla meşgul olmaya başladığını anlatıyor. Kişiler ve malların yanı sıra patojenler de erken modern dönemde olduğundan daha fazla dolaşıma girmiştir.7 Devletler bu hareketleri tamamen bastırmaya veya kontrol etmeye çalışmasa da, ‘olumlu’ dolaşım olarak görülenleri artırmanın ve ‘olumsuz’ dolaşımı en aza indirmenin yollarını aramışlardır. Bu amaçla pozitivist bir sosyal bilimin yeni araçlarını kullandılar: doğumlar, kazalar, hastalıklar ve ölümler gibi olguları izlemek ve düzenlemek için demografi alanında istatistiksel yaklaşımlar kullanıldı.8 Ortaya çıkan yönetimsel ulus devlet, nüfus hakkında ayrıntılı bilgi toplayan ve standartlaştırılmış depolama ve analiz yöntemleri geliştiren çok özel bir araç seti geliştirerek dolaşım sorununu ele aldı.

Özellikle can sıkıcı bir sorun, bilinen suçluların dolaşımı idi. On dokuzuncu yüzyılda, bir kişi bir kez suç işlediyse, tekrar suç işleyeceğine inanılıyordu. Ancak, suçluların tespiti için mevcut sistemler bu görev için ne yazık ki yetersizdi.

Kriminolog Simon Cole’un açıkladığı gibi, bilinmeyen bir kişinin kimliğini tespit etmek için ‘gerçekten benzersiz bir vücut işareti’ gerekir.9 Ancak modern kimlik tespit sistemlerinin ortaya çıkmasından önce bunu yapmanın sadece iki yolu vardı: damgalama veya kişisel tanıma. Damgalama, Avrupa ve Kuzey Amerika’da hükümlüler, mahkumlar ve köleler üzerinde yaygın olarak kullanılmış olsa da, suç ve ceza konusunda gelişen fikirler, on dokuzuncu yüzyılın başlarında fiziksel işaretlemenin büyük ölçüde kaldırılmasına yol açtı. Onun yerine sabıka kaydı oluşturuldu: hükümlünün adını ve tanımlayıcı işaretler ve yara izleri de dahil olmak üzere kişiliğinin yazılı bir tanımını kataloglayan yazılı bir belge.

Ancak, bir şüpheliyi yalnızca yazılı bir tariften tanımlamak zordu. Ve sistem, takma adların kullanımına ve isimlerin farklı yazılışlarına karşı savunmasızdı: yalnızca kendi toplulukları tarafından bilinen bir kişi kesin olarak tanımlanabilirdi. İlk suçlu tanımlama sistemleri temelde hareketliliğe karşı savunmasızdı.10 Özellikle, bu sorunlar çağdaş göç yönetimine musallat olmaya devam etmiştir çünkü veritabanları genellikle aynı kişi için Arap alfabesinden Roma alfabesine farklı isim çevirilerinden kaynaklanan birden fazla giriş içerir.

1840’larda fotoğrafın icadı, suçluların kimlik tespitinin güvenilirliği sorununu çözmek için çok az şey yaptı. Fotoğrafik bir kayıt hala kişisel tanıma bağlı olmakla kalmıyor, aynı zamanda arşivleme sorununu da gündeme getiriyordu. Bertillonage’dan önceki suç kayıtları ya yıllık suç özetleri ya da suçluların alfabetik listeleri olarak saklanıyordu. Fotoğraflar yüzün daha doğru bir temsilini sağlasa da, bunları özelliklere göre arşivlemenin bir yolu yoktu. Örneğin çenesi belirgin olan bir kişi için indekste arama yapılmak istendiğinde, bunu yapmak için herhangi bir prosedür yoktu. Hükümlülerin fotoğrafları, suçlu tarafından verilen isme göre alfabetik olarak sıralanıyordu ve bu nedenle diğer kimlik belirleme sistemleriyle aynı zayıflıktan muzdaripti.

Datafication’ın atası

Alphonse Bertillon, insan vücudunun sistematik ölçümlerini arşivleme ve kayıt tutma ile birleştirerek bu sorunu çözen ilk kişi oldu. Kriminolog, kayıtları alfabetik yerine sayısal olarak sıralayarak kayıt erişimini geliştirdi ve tamamen antropomorfik ölçümlere dayalı bir indeksleme sistemi oluşturdu. Dizin kartları hiyerarşik bir sınıflandırma sistemine göre düzenlenmiş, bilgiler önce cinsiyete, sonra baş uzunluğuna, baş genişliğine, orta parmak uzunluğuna ve benzerlerine göre ayrılmıştır. Her bir ölçüm seti, nüfus içindeki dağılımlarının istatistiksel değerlendirmesine dayalı olarak gruplara ayrılmış ve mahkumlardan ölçümler alınarak ortalamalar oluşturulmuştur. Bertillon operatörü bir şüphelinin profilini arşive götürüyor ve bir eleme süreciyle bir eşleşme arıyordu: önce eşleşmeyen cinsiyet, sonra eşleşmeyen kafa uzunlukları ve benzeri. Geçici bir eşleşme bulunursa, bu kartta da listelenen vücut izlerine bakılarak teyit ediliyordu. Bu sistemin uygulandığı her yerde, ‘yeniden suç işleyenlerin’ tanınma oranları yükseldi; Bertillon’un sistemi kısa sürede tüm dünyaya yayıldı.11

Bertillon’la birlikte, çağdaş sınır ve gözetim teknolojisinin bir başka özelliği daha çerçeveye girdi: nicelleştirme ya da bugün ‘verileştirme’ olarak bilinen şey. Bertillon sadece mahkumların boylarını ve kafa uzunluklarını ölçmekle kalmadı, aynı zamanda vücudun ayırt edici özelliklerini koda çevirmek için bir yöntem icat etti. Örneğin, bir mahkumun ön kolunda bir yara izi varsa, önceki suçlu tespit sistemleri bunu dosyaya not ederdi. Buna karşılık Bertillon, belirli bir referans noktasına olan mesafelerini ölçtü. Bunlar daha sonra kısaltmalar ve sembollerden oluşan bir deyim kullanılarak standart bir şekilde kaydedildi ve bu tanımlamalar kısaltılmış bir biçimde sunuldu. Ortaya çıkan portrait parlé, veya sözlü portre, fiziksel bedeni ‘kelimeler, sayılar ve kodlanmış kısaltmalardan’ oluşan ‘evrensel bir dile’ dönüştürdü.12 Tarihte ilk kez, kesin bir konu tanımı telgrafla iletilebildi.

Vücudun koda dönüştürülmesi, çağdaş biyometrik tanımlama yöntemlerinin temelini oluşturmaya devam etmektedir. Parmak izi tanımlama sistemleri ilk olarak sömürge Hindistan’ında denenmiş ve yaygınlaştırılmıştır; papiller sırt desenlerini bir koda dönüştürür ve bu kod daha sonra aynı şekilde üretilen diğer kodlarla karşılaştırılabilir. Yüz tanıma teknolojisi, yüzün şematik temsillerini üretir ve bunlara sayısal değerler atar, böylece karşılaştırma ve eşleştirmeye izin verir. Ses kimliği, iris taramaları ve yürüyüş tanıma gibi diğer biyometrik kimlik biçimleri de aynı prensibi takip eder.

Taksonomiden makine öğrenimine

Nicelleştirmenin yanı sıra, yüzyıllardır bilgi üretiminin ve yönetişimin temel araçlarından biri olan sınıflandırma, modern ve çağdaş gözetim ve kimlik belirleme teknolojilerinin bir diğer ayırt edici özelliğidir. Foucault13 dan Zygmunt Bauman14 ve Denise Ferreira da Silva15 ya kadar pek çok akademisyenin belirttiği gibi, sınıflandırma, Carl Linnaeus’un taksonomisinde en ikonik şekilde kanıtlandığı üzere, Avrupa Aydınlanmasının merkezi bir aracıdır. Linnaeus, dereceli tablosunda bitkilerden böceklere ve insanlara kadar doğal dünyayı adlandırmış, sınıflandırmış ve hiyerarşik olarak sıralamış, her grubu ortak özelliklerine göre bölmüş ve alt bölümlere ayırmıştır. Sınıflandırma ve taksonomiler, erken modern dönemde teosentrik epistemolojiden rasyonalist epistemolojiye temel epistemolojik kaymaların bir ifadesi olarak görülmekte olup, bilimsel atılımları mümkün kılmış, ancak aynı zamanda sömürgeleştirme ve köleleştirme ile de bağlantılı olmuştur.16 Konuyla ilgili kitaplarında Geoffrey Bowker ve Susan Leigh Star, sınıflandırmanın güçlü ancak çoğu zaman fark edilmeyen bir siyasi düzenleme aracı olarak kullanıldığının altını çiziyor: ‘Siyasi ve sosyal olarak yüklü gündemler genellikle ilk başta tamamen teknik olarak sunulur ve görülmeleri bile zordur. Sınıflandırma sisteminin katmanları işleyen bir altyapıya dönüştükçe, asıl siyasi müdahale giderek daha sıkı bir şekilde yerleşir. Birçok durumda bu, bir yakınsama süreci yoluyla siyasi kategorinin doğallaşmasına yol açar. ‘17

Bugün sınıflandırma, büyük miktarda verideki örüntüleri ayırt etmek için tasarlanmış bir yapay zeka alt alanı olan makine öğreniminin merkezinde yer almaktadır. Bu, yalnızca büyük miktarda bilgiyi kategorize etmesine değil, aynı zamanda yeni, daha önce görülmemiş verileri tahmin etmesine ve sınıflandırmasına da olanak tanır. Başka bir deyişle, öğrenilen bilgiyi yeni durumlara uygular. Makine öğrenimi üzerine araştırmalar geçen yüzyılın ortalarında başlamış olsa da, ChatGPT gibi uygulamalarla son zamanlarda benzeri görülmemiş bir şekilde öne çıkmıştır.

Makine öğrenimi sınır çalışmalarında da giderek daha fazla uygulanmaktadır. Nadiren tek başına bir teknoloji olarak kullanılmakla birlikte, uzun süredir kullanılan gözetim, tanımlama ve ayıklama biçimlerini artırmak ve hızlandırmak için mevcut teknolojiler arasında yaygın olarak kullanılmaktadır. Örneğin, hareket kalıpları, sosyal medya paylaşımları, siyasi çatışmalar, doğal afetler ve daha fazlası dahil olmak üzere büyük miktarda veriyi analiz eden algoritmik tahmin, göç modellerinin haritasını çıkarmak amacıyla giderek istatistiksel göç modellemesinin yerini almaktadır. Avrupa Komisyonu şu anda “riskli” davranışların yeni biçimlerini belirlemek için daha geniş veri kaynaklarından yararlanarak mevcut risk analizi biçimlerini genişletecek algoritmik yöntemlere yönelik araştırmaları finanse etmektedir. Makine öğrenimi ayrıca ‘yalan dedektörü’ sınır muhafızları, diyalekt tanıma, şüpheli gemilerin izlenmesi ve tanımlanması, AB’nin iç sınırlarında yüz tanıma ve Yunan kamplarındaki mahkumların davranışsal analizi. Bu geniş uygulama yelpazesinin de gösterdiği gibi, ister drone görüntülerinin destekli görüntü analizi ister sığınma taleplerinin incelenmesi olsun, makine öğreniminden muaf bir sınır teknolojisi yok gibi görünüyor.

Sınıflandırma, makine öğreniminin ya da en azından günümüzde baskın hale gelen veri odaklı makine öğreniminin özünde yatmaktadır. Bireysel veri noktaları, denetimli veya denetimsiz öğrenme yoluyla yürütülen bir süreç olan kategoriler ve alt kategoriler halinde düzenlenir. Denetimli öğrenmede, eğitim verileri önceden tanımlanmış bir taksonomiye göre etiketlenir. Pratikte bu genellikle insanların söz konusu köpeğin görüntüsüne ‘köpek’ gibi etiketler ataması anlamına gelir. Makine öğrenimi modeli, etiketlerle ilişkili örüntüleri tanımlayarak bu etiketli veri kümesinden öğrenir. Denetimsiz öğrenmede veriler insanlar tarafından etiketlenmez. Bunun yerine, algoritma veri içindeki kalıpları ve yapıları bağımsız olarak tanımlar. Başka bir deyişle, algoritma veri kümesinin doğasında bulunan örüntülere dayalı olarak kendi kümelerini oluşturarak verileri sınıflandırır. İnsan tarafından oluşturulan sistemlerle uyumlu olabilecek veya olmayabilecek kendi kategori taksonomisini oluşturur.

Sözde suçlu tipi

Yapay zeka ve sınır akademisyeni Louise Amoore’un işaret ettiği gibi, algoritmik kümeleri verilerden elde edilen içsel, ‘doğal’ kalıpların bir temsili olarak ortaya koymak, ‘tarafsız, nesnel ve değerden bağımsız bir siyasi topluluk oluşturma ve sınırlama vaadi sunduğu’ için ‘olağanüstü güçlü bir siyasi önerme’dir.18 Algoritmik kümenin ‘doğal bir topluluk’ olduğu fikri, önemli bir ırksallaştırma hamlesi içermektedir: düzensiz göçle ilişkili davranış biçimleri sonuç olarak ‘riskli’ olarak etiketlenmektedir. Bu kümeler, milliyet veya din gibi ırk için ‘klasik’ vekiller gibi önceden tanımlanmış kriterlere atıfta bulunulmadan oluşturulduğundan, korunan özellikler veya önyargı gibi mevcut kavramlarla sorgulanmaları zordur.19 Örneğin, bir göçmen, seyahat güzergahları, sosyal medya paylaşımları, kişisel ve profesyonel ağlar ve hava durumu modelleri arasındaki şeffaf olmayan bir korelasyona dayanan bir makine öğrenimi algoritması tarafından bir güvenlik riski olarak tanımlanabilir.

İçsel niteliklere göre kategorilerin oluşturulması, diğer on dokuzuncu yüzyıl uygulamalarını yankılamakta ve genişletmektedir: yani, suç davranışına işaret edecek düzenlilikleri ve kalıpları belirlemek için ölçüm ve istatistikleri kullanan bir dizi bilimsel çaba. Denetimsiz makine öğrenimi gibi, kraniyometri, frenoloji ve kriminal antropoloji alanları, suç kategorilerine ayrılabilecek kalıpları toplamak için insan denekler hakkında sistematik olarak veri biriktirmiştir.

Örneğin, Franz Joseph Gall gibi frenologlar belirli kişilik özelliklerini kafatasının öne çıkan bölgeleriyle ilişkilendirmiştir. İlgili fizyonomi alanında, İsviçreli papaz Johann Kaspar Lavater gibi isimler, suçlu davranışına rehberlik etmesi için yüz hatları üzerinde sistematik bir çalışma yürüttü. Fotoğrafçılığın gelişmesiyle birlikte, yüzdeki suçluluk belirtilerini araştıran çalışmalar hız kazanmış, mahkumlar ve akıl hastanesi mahkumları defalarca bu tür ‘çalışmalara’ tabi tutulmuştur. Öjenik hareketinin kurucusu ve parmak izi tespitinin öncülerinden Frances Galton’un kompozit fotoğrafları buna bir örnektir: mahkumların görüntüleri, suçluluğun fiziksel işaretleri olarak düzenlilikler elde etmek için üst üste bindirilmiştir.20

Kriminal antropoloji bu yaklaşımları, suçlu bedenini bilimsel incelemeye tabi tutmaya yönelik tutarlı bir girişimde birleştirdi. İtalyan psikiyatrist ve antropolog Cesare Lombroso’nun önderliğinde kriminal antropologlar, Bertillon’un hassas uzuv ölçümlerinden kraniyometrik kafatası ölçümlerine, yüz hatlarının haritasının çıkarılmasına ve yara izleri ve dövmeler gibi ayırt edici işaretlerin not edilmesine kadar çok çeşitli antropomorfik ölçüm araçları kullandılar. Bu temelde, ‘doğuştan suçlu’nun vücudunda bulunan sözde ‘stigmata’ veya fiziksel düzenliliklerin bir listesini çıkardılar Bu kavram bugün yaygın olarak gözden düşmüş olsa da, toplu veri özelliklerine dayalı temel sınıflandırma yöntemi hala varlığını sürdürmektedir.

Yüz özelliklerinin nicel analizinden çıkarılan sonuçlara güvenmek güçlü bir cazibe olmaya devam ediyor. Bir 2016 makalesi ehliyetlerden alınan kafa fotoğraflarına dayanarak suçluluğu tahmin etmek için derin bir sinir ağı algoritmasını başarıyla eğittiğini iddia ederken, bir 2018 çalışması arkadaşlık sitesi fotoğraflarından cinsel yönelimi okuma konusunda benzer iddialarda bulundu.

Bu sistemlerle eleştirel bir şekilde ilgilenirken, desteklemek için konuşlandırıldıkları daha büyük siyasi projenin farkında olmak zorunludur. Yapay zeka uzmanı Kate Crawford’un yazdığı gibi: ‘Kafatası morfolojisini zeka ve yasal hak talepleriyle ilişkilendirmek, sömürgecilik ve kölelik için teknik bir mazeret görevi görüyor. Kafatası ölçümlerindeki hatalara ve bunların nasıl düzeltileceğine odaklanma eğilimi olsa da, çok daha büyük hata bu metodolojiyi canlandıran temel dünya görüşündedir. O halde amaç, ırkçı zeka modellerini desteklemek için daha doğru ya da “adil” kafatası ölçümleri talep etmek değil, bu yaklaşımı tümüyle mahkum etmek olmalıdır.”21 Başka bir deyişle, sınıflandırma ve nicelleştirme teknikleri, doğrulamak ve kefil olmak için görevlendirildikleri sosyo-politik bağlamlardan ayrı tutulamaz. Uluslararası İlişkiler uzmanı Robert Cox’un ifadesiyle, sınıflandırma ve nicelleştirme her zaman birileri için ve bir amaç içindir.22

Bilim ve Teknoloji Çalışmaları uzmanı Helga Nowotny’nin de belirttiği gibi, algoritmik tahmin sonuçlarının temelde doğru olduğuna ‘güvenirsek’, derin sinir ağlarının mantığını yanlış anlamış oluruz. Bu ağlar ‘yalnızca düzenlilikleri tespit edebilir ve geçmişten gelen verilere dayanarak kalıpları tanımlayabilir. Nedensel muhakeme söz konusu değildir ve bir yapay zeka da öyleymiş gibi davranmaz.”23

Bu makineler ‘pratik ve ölçülebilir tahminler’ üretebilseler de, neden-sonuç ilişkisi kuramazlar – kısacası, insani anlamda bir ‘anlayışa’ sahip değildirler.24 Dahası, algoritmalara aşırı güvenmek bizi determinizme iter ve davranışlarımızı alternatif yollar yerine makine öngörüleriyle uyumlu hale getirir. Bu, hesap verebilirlik üzerine kurulu siyasi kültürlerde bir sorundur. Daha iyi gelecekler inşa etmek için geçmişten ders almak istiyorsak, bir makine öğrenimi modelinin öngörücü çıktılarına güvenemeyiz.

AI déjà-vu

On dokuzuncu yüzyıldan günümüze gözetim ve kimlik belirleme teknolojilerinin iç içe geçmiş tarihini keşfetmek için nicelleştirme ve sınıflandırmaya duyulan ortak ve süregelen güvenin yanı sıra pek çok konudan faydalanılabilir. Hükümlüler ve sömürgeleştirilmiş insanlar gibi marjinalleştirilmiş, fazlalık nüfuslar uzun zamandır sınıflandırma sistemlerini geliştirmek ve algoritmaları eğitmek için ‘teknolojik test alanları‘ olarak kullanılmaktadır. Kontrolsüz insan hareketliliği korkusu, araştırma ve geliştirme için bir itici güç olarak kullanılmaya devam ediyor ve teknoloji de kendi yarattığı sorunları çözmek için kullanılıyor. Ve pozitivist sosyal bilimsel yöntemler, kükreyen çoklukları düzgün, sayısal değerlere dönüştürme görevinin aracı olmaya devam ediyor.

YZ aldatmacasına kanmak yerine, kendimizi bir deja-vu duygusuna, yani tüm bunları daha önce gördüğümüze dair tedirgin edici duyguya ayarlayabiliriz. Bu şekilde, kurumsal ve sınır aktörleri tarafından ortaya atılan fantastik iddialara daha iyi direnebilir ve teknolojileri küresel tahakküm projelerinden ayırmaya başlayabiliriz.

**

Bu makale ‘Elastic Borders’ projesi kapsamında yürütülen araştırmaya dayanmaktadır: Rethinking the Borders of the 21st Century’ Graz Üniversitesi merkezli, NOMIS vakfı tarafından finanse edilmektedir.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, levha 16, s. 262.

2 NOMIS tarafından finanse edilen Elastik Sınırlar projesinde, Graz Üniversitesi, Avusturya'daki araştırmacı ekibinin bir parçasıyım.

3 Ayrıca bkz: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Antropometriden hesaplamalı sosyal bilimlere insan bedenini ölçmek', Public, Cilt 30, No. 60, 2020, s. 20-33; A. Valdivia ve M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.

4 Eğer parmak izleri Yunanistan'da alınmış, ancak sığınmacı daha sonra Almanya'da yakalanmışsa, başvurusunun işleme konulması için Yunanistan'a gönderilmekle karşı karşıya kalabilir.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa ve D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: Karşılaştırmalı ve disiplinler arası bir analiz (çalışma raporu), İsviçre Uluslararası Çalışmalar Ağı, 2021, s. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 Ibid., s. 91.

8 M. Foucault, Toplum Savunulmalıdır. Lectures at the Collège de France, 1975-76, çev. D. Macey, Picador, 2003, s. 244.

9 S. A. Cole, Şüpheli kimlikleri: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s.12.

10 Ibid., s. 18-9.

11 Ibid., s. 34-45.

12 Ibid., s.48.

13 M. Foucault, The Order of Things. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Varlığın/gücün/hakikatin/özgürlüğün sömürgeciliğini sarsmak: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker ve S. L. Star, Sorting things out: Classification and its consequences, MIT press, 2000, s. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ibid.

20 Galton benzer bir çalışmayı Yahudi okul çocukları üzerinde yürütmüş ve Yahudiliğin ırksal işaretlerini aramıştır.

.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.

22 R. W. Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, s. 22.

24 Ibid.