Μέτρηση του κινητού σώματος

Το high-tech οπλοστάσιο των τεχνολογιών συνόρων της Ευρώπης συχνά αφηγείται ως μια φουτουριστική ιστορία φωτός, ταχύτητας και υπολογιστικής ισχύος. Συστήματα ταυτοποίησης, όπως η βάση δεδομένων Eurodac, αποθηκεύουν, επεξεργάζονται και συγκρίνουν τα ψηφιοποιημένα δακτυλικά αποτυπώματα των μεταναστών χρησιμοποιώντας φως εγγύς υπέρυθρης ακτινοβολίας, καλώδια οπτικών ινών και κεντρικούς διακομιστές. Μη επανδρωμένα αεροσκάφη περιπολούν στους ουρανούς με τους αναβοσβήνοντες οπτικούς αισθητήρες τους. Και μεγάλος όγκος δεδομένων τροφοδοτείται σε προγράμματα υπολογιστών που προβλέπουν το επόμενο κύμα αφίξεων.

Νέα άρθρα και Εκθέσεις των ΜΚΟ που εστιάζουν στην υψηλή τεχνολογία των ευρωπαϊκών συνόρων αφθονούν. Κάθε μία από αυτές αναδεικνύει τον τρόπο με τον οποίο οι απομακρυσμένες μορφές επιτήρησης, αποτροπής και ελέγχου συμπληρώνουν όλο και περισσότερο και, σε ορισμένες περιπτώσεις, αντικαθιστούν τις συνοριακές οχυρώσεις. Ενώ αυτού του είδους η έρευνα και η συνηγορία είναι απαραίτητες για να λογοδοτήσουν η ΕΕ και οι προγραμματιστές τεχνολογίας για τον ρόλο τους στην προώθηση των αιτούντων άσυλο προς θανατηφόρες μεταναστευτικές διαδρομές, αποσιωπούν τη μακρά ιστορία αυτών των τεχνολογιών και τον καθιερωμένο ρόλο τους στους δυτικούς μηχανισμούς διακυβέρνησης. Αυτό όχι μόνο εγκυμονεί τον κίνδυνο να ενισχύσει την “AI hype‘ μεταξύ των φορέων χάραξης πολιτικής και των προγραμματιστών, οι οποίοι χαιρετίζουν αυτά τα εργαλεία ως μέσο τόσο για τη δημιουργία “εξυπνότερων” συνόρων όσο και για την προστασία των ανθρωπίνων δικαιωμάτων των μεταναστών. Το πιο σημαντικό είναι ότι αυτού του είδους η ιστορική αμνησία μπορεί επίσης να παρερμηνεύσει τη βία και τους αποκλεισμούς που θεσπίζουν αυτές οι τεχνολογίες ως ένα τεχνικό ζήτημα “προκατάληψης” που διορθώνεται εύκολα με πιο ακριβείς μετρήσεις ή μεγαλύτερα σύνολα δεδομένων. Αντίθετα, μεγάλο μέρος της βλάβης που προκαλούν αυτές οι τεχνολογίες θα πρέπει να κατανοηθεί ως εγγενές στον σχεδιασμό τους.

Ένας κατάλογος αναγνώρισης

Η ανάπτυξη προηγμένων τεχνολογιών για τον έλεγχο της ανθρώπινης κινητικότητας κάθε άλλο παρά καινούργια είναι. Φανταστείτε ένα αστικό ευρωπαϊκό αστυνομικό τμήμα στα τέλη του δέκατου ένατου αιώνα. Αν ο δήμος είχε υιοθετήσει την τελευταία τεχνολογία ταυτοποίησης, οι ύποπτοι θα είχαν υποβληθεί σε μια πολύπλοκη διαδικασία μέτρησης. Η καταγραφή των μετρήσεών τους ήταν μια ακριβής και άκρως εξειδικευμένη διαδικασία, που απαιτούσε εξειδικευμένο και εκπαιδευμένο τεχνικό.

Σκεφτείτε αυτές τις Οδηγίες για τη μέτρηση ενός αυτιού:

Ο χειριστής φέρνει τη σταθερή σιαγόνα του οργάνου να ακουμπήσει στο άνω άκρο του αυτιού και το ακινητοποιεί, πιέζοντας τον αριστερό αντίχειρα αρκετά σταθερά στο άνω άκρο της σιαγόνας του οργάνου, με τα άλλα δάχτυλα του χεριού να ακουμπούν στην κορυφή του κρανίου. Με το στέλεχος του μετρητή παράλληλο προς τον άξονα του αυτιού, σπρώχνει απαλά την κινητή σιαγόνα μέχρι να αγγίξει το κάτω άκρο του λοβού και, πριν διαβάσει τον αναγραφόμενο αριθμό, βεβαιώνεται ότι η πτέρυγα [εξωτερικό τμήμα του αυτιού] δεν πιέζεται καθόλου από καμία σιαγόνα.1

Αυτή η διαδικασία μπορεί να ακούγεται σαν ένα γραφικό αν και κάπως περίεργο κατάλοιπο του Fin de Siècle, αλλά κάθε άλλο παρά είναι. Το Bertillonage, το σύστημα μέτρησης, ταξινόμησης και αρχειοθέτησης για την ταυτοποίηση εγκληματιών που επινοήθηκε τη δεκαετία του 1870 από τον ομώνυμο Γάλλο αστυνομικό υπάλληλο, αποτέλεσε ορόσημο στην ιστορία της τεχνολογίας παρακολούθησης και ταυτοποίησης. Είναι αξιοσημείωτο ότι οι βασικές αρχές του στηρίζουν τις τεχνολογίες ταυτοποίησης μέχρι σήμερα, από τις βάσεις δεδομένων μέχρι τη βιομετρία και τη μηχανική μάθηση.

Μια στενή και ιστορικά εδραιωμένη σχέση υπάρχει μεταξύ των φόβων γύρω από την ανεξέλεγκτη κυκλοφορία διαφόρων “ανεπιθύμητων” και της τεχνολογικής καινοτομίας. Οι τεχνικές του δέκατου ένατου αιώνα, που αναπτύχθηκαν και τελειοποιήθηκαν για την αντιμετώπιση προβλημάτων γύρω από την αλητεία, την αποικιακή διακυβέρνηση, την παρέκκλιση, την τρέλα και την εγκληματικότητα, αποτελούν τα θεμέλια των σημερινών συσκευών επιτήρησης των συνόρων υψηλής τεχνολογίας. Οι τεχνικές αυτές περιλαμβάνουν την ποσοτικοποίηση, η οποία καθιστά το ανθρώπινο σώμα ως κώδικα, την ταξινόμηση και τις σύγχρονες μεθόδους ευρετηρίασης και αρχειοθέτησης.

Σύγχρονη επεμβατική καταγραφή

Τα έξυπνα συνοριακά συστήματα χρησιμοποιούν προηγμένες τεχνολογίες για τη δημιουργία “σύγχρονων, αποτελεσματικών και αποδοτικών” συνόρων. Στο πλαίσιο αυτό, οι προηγμένες τεχνολογίες συχνά παρουσιάζονται ως μεταφράζουσες συνοριακές διαδικασίες όπως η ταυτοποίηση, η καταγραφή και ο έλεγχος της κινητικότητας σε μια καθαρά τεχνική διαδικασία, καθιστώντας έτσι τη διαδικασία δικαιότερη και λιγότερο επιρρεπή στην ανθρώπινη αστοχία. Η αλγοριθμική ακρίβεια χαρακτηρίζεται ως μέσο αποφυγής ανήθικων πολιτικών προκαταλήψεων και διόρθωσης του ανθρώπινου λάθους.

Ως ερευνητής του τεχνοεπιστημονικού υποβάθρου του συνοριακού μηχανισμού υψηλής τεχνολογίας της ΕΕ,2 αναγνωρίζω τόσο την αυξανόμενη ελαστικότητα των σύγχρονων συνοριακών πρακτικών, όσο και την ιστορικά καθιερωμένη μεθοδολογία των εργαλείων και των πρακτικών της.3

Πάρτε για παράδειγμα την Βάση δεδομένωνEurodac, έναν ακρογωνιαίο λίθο της διαχείρισης των συνόρων της ΕΕ. Ιδρύθηκε το 2003 και αποθηκεύει τα δακτυλικά αποτυπώματα των αιτούντων άσυλο ως επιβολή του κανονισμού του Δουβλίνου για την πρώτη είσοδο.4 Η λήψη δακτυλικών αποτυπωμάτων και η εγγραφή σε διαλειτουργικές βάσεις δεδομένων είναι επίσης κεντρικά εργαλεία που χρησιμοποιούνται σε πρόσφατες προσεγγίσεις για τη διαχείριση της μετανάστευσης, όπως η προσέγγιση των hotspot, όπου η απόδοση ταυτότητας χρησιμεύει ως μέσο για το φιλτράρισμα των “άξιων” από τους “ανάξιους” μετανάστες.5

Με την πάροδο των ετών, τόσο το είδος των δεδομένων που αποθηκεύονται στο Eurodac όσο και οι χρήσεις τους έχουν διευρυνθεί: το πεδίο εφαρμογής του έχει διευρυνθεί ώστε να εξυπηρετεί “ευρύτερους μεταναστευτικούς σκοπούς“, αποθηκεύοντας δεδομένα όχι μόνο για τους αιτούντες άσυλο αλλά και για τους παράτυπους μετανάστες για τη διευκόλυνση της απέλασής τους. Μια πρόσφατα αποδεκτή πρόταση έχει προσθέσει εικόνες προσώπου και βιογραφικές πληροφορίες, συμπεριλαμβανομένων του ονόματος, της εθνικότητας και των πληροφοριών διαβατηρίου, στα δακτυλικά αποτυπώματα. Επιπλέον, η ελάχιστη ηλικία των μεταναστών των οποίων τα δεδομένα μπορούν να αποθηκευτούν έχει μειωθεί από τα δεκατέσσερα στα έξι έτη.

Από το 2019 το Eurodac είναι “διαλειτουργικό” με μια σειρά άλλων βάσεων δεδομένων της ΕΕ που αποθηκεύουν πληροφορίες σχετικά με καταζητούμενους, αλλοδαπούς κατοίκους, κατόχους θεωρήσεων και άλλα πρόσωπα που ενδιαφέρουν τις διοικήσεις της ποινικής δικαιοσύνης, της μετανάστευσης και του ασύλου, συνδέοντας αποτελεσματικά την ποινική δικαιοσύνη με τη μετανάστευση, ενώ παράλληλα διευρύνει σημαντικά την πρόσβαση στα δεδομένα αυτά. Η Eurodac διαδραματίζει βασικό ρόλο για τις ευρωπαϊκές αρχές, γεγονός που αποδεικνύεται από τις προσπάθειες για την επίτευξη “ποσοστού δακτυλικών αποτυπωμάτων 100%”: η Ευρωπαϊκή Επιτροπή έχει πιέσει τα κράτη μέλη να εγγράφουν κάθε νεοαφιχθέν άτομο στη βάση δεδομένων, χρησιμοποιώντας σωματικό εξαναγκασμό και κράτηση αν χρειαστεί.

Η επισήμανση της εγκληματικότητας

Ενώ τα εθνικά κράτη συλλέγουν δεδομένα για τους πολίτες για σκοπούς φορολογίας και στρατολόγησης εδώ και αιώνες, η ευρετηρίαση, η οργάνωση σε βάσεις δεδομένων και η ταξινόμησή τους για συγκεκριμένους κυβερνητικούς σκοπούς -όπως ο έλεγχος της κινητικότητας των “ανεπιθύμητων” πληθυσμών- είναι μια εφεύρεση του δέκατου ένατου αιώνα.6 Ο Γάλλος ιστορικός και φιλόσοφος Michel Foucault περιγράφει πώς, στο πλαίσιο της αυξανόμενης αστικοποίησης και εκβιομηχάνισης, τα κράτη άρχισαν να ασχολούνται όλο και περισσότερο με το ζήτημα της “κυκλοφορίας”. Τα πρόσωπα και τα αγαθά, καθώς και οι παθογόνοι μικροοργανισμοί, κυκλοφορούσαν περισσότερο απ’ ό,τι στην πρώιμη σύγχρονη περίοδο. 7 Ενώ τα κράτη δεν επεδίωκαν να καταστείλουν ή να ελέγξουν πλήρως αυτές τις μετακινήσεις, αναζητούσαν μέσα για να αυξήσουν αυτό που θεωρούσαν “θετική” κυκλοφορία και να ελαχιστοποιήσουν την “αρνητική” κυκλοφορία. Χρησιμοποίησαν για το σκοπό αυτό τα νέα εργαλεία μιας θετικιστικής κοινωνικής επιστήμης: χρησιμοποιήθηκαν στατιστικές προσεγγίσεις στον τομέα της δημογραφίας για την παρακολούθηση και ρύθμιση φαινομένων όπως οι γεννήσεις, τα ατυχήματα, οι ασθένειες και οι θάνατοι.8 Το αναδυόμενο διαχειριστικό εθνικό κράτος αντιμετώπισε το πρόβλημα της κυκλοφορίας αναπτύσσοντας μια πολύ συγκεκριμένη εργαλειοθήκη συγκεντρώνοντας λεπτομερείς πληροφορίες για τον πληθυσμό και αναπτύσσοντας τυποποιημένες μεθόδους αποθήκευσης και ανάλυσης.

Ένα ιδιαίτερα ενοχλητικό πρόβλημα ήταν η κυκλοφορία των γνωστών εγκληματιών. Τον δέκατο ένατο αιώνα, υπήρχε η ευρεία πεποίθηση ότι αν ένα άτομο αδικούσε μια φορά, θα αδικούσε ξανά. Ωστόσο, τα συστήματα που ήταν διαθέσιμα για την ταυτοποίηση των εγκληματιών ήταν θλιβερά ανεπαρκή για το έργο αυτό.

Όπως εξηγεί ο εγκληματολόγος Simon Cole, η ταυτοποίηση ενός άγνωστου προσώπου απαιτεί ένα “πραγματικά μοναδικό σημάδι σώματος”.9 Ωστόσο, πριν από την έλευση των σύγχρονων συστημάτων ταυτοποίησης, υπήρχαν μόνο δύο τρόποι για να γίνει αυτό: η επωνυμία ή η προσωπική αναγνώριση. Ενώ το μαρκάρισμα είχε χρησιμοποιηθεί ευρέως στην Ευρώπη και τη Βόρεια Αμερική σε κατάδικους, φυλακισμένους και σκλάβους, οι εξελισσόμενες ιδέες γύρω από την εγκληματικότητα και την τιμωρία οδήγησαν σε μεγάλο βαθμό στην κατάργηση της σωματικής σήμανσης στις αρχές του δέκατου ένατου αιώνα. Στη θέση του καθιερώθηκε το ποινικό μητρώο: ένα γραπτό έγγραφο που καταγράφει το όνομα του καταδίκου και μια γραπτή περιγραφή του προσώπου του, συμπεριλαμβανομένων των σημάτων και των ουλών αναγνώρισης.

Πάντως, η ταυτοποίηση ενός υπόπτου μόνο από μια γραπτή περιγραφή αποδείχθηκε πρόκληση. Και το σύστημα ήταν ευάλωτο στη χρήση ψευδώνυμων και διαφορετικής ορθογραφίας ονομάτων: μόνο ένα πρόσωπο γνωστό στην κοινότητά του μπορούσε να αναγνωριστεί με βεβαιότητα. Τα πρώιμα συστήματα ταυτοποίησης εγκληματιών ήταν θεμελιωδώς ευάλωτα στην κινητικότητα.10 Αξιοσημείωτο είναι ότι τα προβλήματα αυτά συνέχισαν να στοιχειώνουν τη σύγχρονη διαχείριση της μετανάστευσης, καθώς οι βάσεις δεδομένων συχνά περιέχουν πολλαπλές καταχωρήσεις για το ίδιο άτομο που προκύπτουν από διαφορετικές μεταγραφές των ονομάτων από το αραβικό στο λατινικό αλφάβητο.

Η εφεύρεση της φωτογραφίας τη δεκαετία του 1840 δεν έλυσε σχεδόν καθόλου το ζήτημα της αξιοπιστίας της ποινικής ταυτοποίησης. Όχι μόνο ένα φωτογραφικό αρχείο εξακολουθούσε να είναι υπόχρεο στην προσωπική αναγνώριση, αλλά έθεσε και το ζήτημα της αρχειοθέτησης. Τα ποινικά μητρώα πριν από το Bertillonage αποθηκεύονταν είτε ως ετήσιες συλλογές εγκλημάτων είτε ως αλφαβητικοί κατάλογοι παραβατών. Ενώ οι φωτογραφίες παρείχαν μια πιο ακριβή απεικόνιση του προσώπου, δεν υπήρχε τρόπος να αρχειοθετηθούν σύμφωνα με τα χαρακτηριστικά. Αν κάποιος ήθελε να αναζητήσει στο ευρετήριο, ας πούμε, ένα άτομο με προεξέχον πηγούνι, δεν υπήρχε καμία διαδικασία για να το κάνει. Οι φωτογραφίες των καταδίκων ταξινομούνταν αλφαβητικά σύμφωνα με το όνομα που έδινε ο δράστης, υποφέροντας έτσι από την ίδια αδυναμία με άλλα συστήματα αναγνώρισης.

Ο πρόγονος του Datafication

Ο Αλφόνς Μπερτιγιόν ήταν ο πρώτος που έλυσε αυτό το πρόβλημα συνδυάζοντας τις συστηματικές μετρήσεις του ανθρώπινου σώματος με την αρχειοθέτηση και την τήρηση αρχείων. Ο εγκληματολόγος βελτίωσε την ανάκτηση αρχείων ταξινομώντας τις εγγραφές αριθμητικά και όχι αλφαβητικά, δημιουργώντας ένα σύστημα ευρετηρίασης που βασιζόταν αποκλειστικά σε ανθρωπομορφικές μετρήσεις. Οι κάρτες ευρετηρίου οργανώνονταν σύμφωνα με ένα ιεραρχικό σύστημα ταξινόμησης, με τις πληροφορίες να χωρίζονται πρώτα ανά φύλο, στη συνέχεια ανά μήκος κεφαλής, πλάτος κεφαλής, μήκος μεσαίου δακτύλου κ.ο.κ. Κάθε σύνολο μετρήσεων χωριζόταν σε ομάδες με βάση μια στατιστική αξιολόγηση της κατανομής τους στον πληθυσμό, με τους μέσους όρους να καθορίζονται με τη λήψη μετρήσεων από τους κατάδικους. Ο χειριστής του Bertillon θα έπαιρνε το προφίλ ενός υπόπτου στο αρχείο και θα αναζητούσε μια ταύτιση μέσω μιας διαδικασίας αποκλεισμού: πρώτα, αποκλείοντας το φύλο που δεν ταίριαζε, στη συνέχεια, τα μήκη κεφαλής που δεν ταίριαζαν, και ούτω καθεξής. Εάν βρισκόταν μια προσωρινή ταύτιση, αυτή επιβεβαιωνόταν με αναφορά σε σωματικά σημάδια που επίσης αναγράφονταν στην κάρτα. Όπου εφαρμόστηκε αυτό το σύστημα, τα ποσοστά αναγνώρισης των “υποτροπιάζοντων” εκτοξεύτηκαν στα ύψη- το σύστημα του Bertillon σύντομα εξαπλώθηκε σε όλο τον κόσμο. 11

Με τον Bertillon, ένα άλλο χαρακτηριστικό γνώρισμα της σύγχρονης τεχνολογίας συνόρων και επιτήρησης μπήκε στο κάδρο: η ποσοτικοποίηση, ή αυτό που σήμερα είναι γνωστό ως “datafication”. Ο Bertillon όχι μόνο μέτρησε το ύψος και το μήκος του κεφαλιού των κρατουμένων, αλλά εφηύρε και μια μέθοδο για τη μετάφραση των διακριτικών χαρακτηριστικών του σώματος σε κώδικα. Για παράδειγμα, αν ένας κρατούμενος είχε μια ουλή στο αντιβράχιο του, τα προηγούμενα συστήματα ταυτοποίησης εγκληματιών απλώς την σημείωναν στο φάκελο. Αντίθετα, ο Bertillon μετρούσε την απόστασή τους από ένα δεδομένο σημείο αναφοράς. Αυτές καταγράφονταν στη συνέχεια με τυποποιημένο τρόπο χρησιμοποιώντας ένα ιδίωμα συντομογραφιών και συμβόλων που απέδιδαν αυτές τις περιγραφές σε συντομευμένη μορφή. Το προκύπτον portrait parlé, ή προφορικό πορτρέτο, μετέγραφε το φυσικό σώμα σε μια “παγκόσμια γλώσσα” από “λέξεις, αριθμούς και κωδικοποιημένες συντομογραφίες”.12 Για πρώτη φορά στην ιστορία, μια ακριβής περιγραφή θέματος μπορούσε να τηλεγραφηθεί.

Η μετάφραση του σώματος σε κώδικα εξακολουθεί να διέπει τις σύγχρονες μεθόδους βιομετρικής ταυτοποίησης. Τα συστήματα ταυτοποίησης δακτυλικών αποτυπωμάτων που δοκιμάστηκαν και αναπτύχθηκαν για πρώτη φορά στην αποικιοκρατική Ινδία μετέτρεπαν τα μοτίβα των θηλαίων κορυφογραμμών σε κώδικα, ο οποίος μπορούσε στη συνέχεια να συγκριθεί με άλλους κώδικες που δημιουργήθηκαν με τον ίδιο τρόπο. Τα συστήματα ταυτοποίησης δακτυλικών αποτυπωμάτων .2.107_1″ target=”_blank” rel=”noreferrer noopener”>Η τεχνολογία αναγνώρισης προσώπου παράγει σχηματικές αναπαραστάσεις του προσώπου και του αποδίδει αριθμητικές τιμές, επιτρέποντας έτσι τη σύγκριση και το ταίριασμα. Άλλες μορφές βιομετρικής ταυτοποίησης, όπως η αναγνώριση φωνής, η σάρωση ίριδας και η αναγνώριση βάδισης, ακολουθούν την ίδια αρχή.

Από την ταξινόμηση στη μηχανική μάθηση

Εκτός από την ποσοτικοποίηση, η ταξινόμηση – βασικό εργαλείο παραγωγής και διακυβέρνησης της γνώσης εδώ και αιώνες – είναι ένα άλλο χαρακτηριστικό γνώρισμα των σύγχρονων και σύγχρονων τεχνολογιών επιτήρησης και ταυτοποίησης. Όπως επισημαίνεται από πολλούς μελετητές, από τον Foucault13 μέχρι τον Zygmunt Bauman14 και την Denise Ferreira da Silva15 , η ταξινόμηση αποτελεί κεντρικό εργαλείο του ευρωπαϊκού διαφωτισμού, που αποδεικνύεται με πιο εμβληματικό τρόπο από την ταξινομία του Carl Linnaeus. Στον διαβαθμισμένο πίνακά του, ο Λινναίος ονόμασε, ταξινόμησε και ιεραρχεί τον φυσικό κόσμο από τα φυτά μέχρι τα έντομα και τους ανθρώπους, χωρίζοντας και υποδιαιρώντας κάθε ομάδα σύμφωνα με κοινά χαρακτηριστικά. Η ταξινόμηση και οι ταξινομήσεις θεωρούνται ευρέως ως έκφραση των θεμελιωδών επιστημολογικών μετατοπίσεων από μια θεοκεντρική σε μια ορθολογιστική επιστημολογία στην πρώιμη νεότερη εποχή, οι οποίες επέτρεψαν επιστημονικές ανακαλύψεις, αλλά συνδέθηκαν επίσης με τον αποικισμό και την υποδούλωση.16 Στο βιβλίο τους για το θέμα, οι Geoffrey Bowker και Susan Leigh Star υπογραμμίζουν τη χρήση της ταξινόμησης ως ένα ισχυρό αλλά συχνά μη αναγνωρισμένο εργαλείο πολιτικής τάξης: “Οι πολιτικά και κοινωνικά φορτισμένες ατζέντες συχνά παρουσιάζονται πρώτα ως καθαρά τεχνικές και είναι δύσκολο ακόμη και να τις δει κανείς. Καθώς τα στρώματα του συστήματος ταξινόμησης ενσωματώνονται σε μια λειτουργική υποδομή, η αρχική πολιτική παρέμβαση εδραιώνεται όλο και περισσότερο. Σε πολλές περιπτώσεις, αυτό οδηγεί σε μια φυσικοποίηση της πολιτικής κατηγορίας, μέσω μιας διαδικασίας σύγκλισης. Γίνεται δεδομένη.”17

Σήμερα, η ταξινόμηση έχει κεντρικό ρόλο στη μηχανική μάθηση, ένα υποπεδίο της τεχνητής νοημοσύνης που έχει σχεδιαστεί για να διακρίνει μοτίβα σε μεγάλες ποσότητες δεδομένων. Αυτό της επιτρέπει όχι μόνο να κατηγοριοποιεί τεράστιες ποσότητες πληροφοριών αλλά και να προβλέπει και να ταξινομεί νέα, προηγουμένως αθέατα δεδομένα. Με άλλα λόγια, εφαρμόζει τη γνώση που έχει μάθει σε νέες καταστάσεις. Αν και η έρευνα για τη μηχανική μάθηση ξεκίνησε στα μέσα του περασμένου αιώνα, έχει έρθει σε πρωτοφανή προβολή πρόσφατα με εφαρμογές όπως το ChatGPT.

Η μηχανική μάθηση εφαρμόζεται επίσης όλο και περισσότερο σε εργασίες στα σύνορα. Σπάνια χρησιμοποιείται ως αυτόνομη τεχνολογία, αλλά χρησιμοποιείται ευρέως στις υπάρχουσες τεχνολογίες για να ενισχύσει και να επιταχύνει τις καθιερωμένες από καιρό μορφές επιτήρησης, ταυτοποίησης και διαλογής. Για παράδειγμα, αλγοριθμική πρόβλεψη, η οποία αναλύει μεγάλες ποσότητες δεδομένων, συμπεριλαμβανομένων των προτύπων μετακίνησης, των αναρτήσεων στα μέσα κοινωνικής δικτύωσης, των πολιτικών συγκρούσεων, των φυσικών καταστροφών και άλλων, αντικαθιστά όλο και περισσότερο τη στατιστική μοντελοποίηση της μετανάστευσης με σκοπό τη χαρτογράφηση των μεταναστευτικών προτύπων. Η Ευρωπαϊκή Επιτροπή χρηματοδοτεί επί του παρόντος έρευνα σε αλγοριθμικές μεθόδους οι οποίες θα επεκτείνουν τις υπάρχουσες μορφές ανάλυσης κινδύνου, αξιοποιώντας ευρύτερες πηγές δεδομένων για τον εντοπισμό νέων μορφών “επικίνδυνης” συμπεριφοράς. Η μηχανική μάθηση επίσης είτε δοκιμάζεται είτε χρησιμοποιείται σε “ανιχνευτές ψεύδους” συνοριοφυλάκων, αναγνώριση διαλέκτων, παρακολούθηση και αναγνώριση ύποπτων σκαφών, αναγνώριση προσώπου στα εσωτερικά σύνορα της ΕΕ και ανάλυση συμπεριφοράς των κρατουμένων σε ελληνικά στρατόπεδα. Όπως καταδεικνύει αυτό το ευρύ φάσμα εφαρμογών, φαίνεται ότι δεν υπάρχει καμία τεχνολογία συνόρων που να εξαιρείται από τη μηχανική μάθηση, είτε πρόκειται για την υποβοηθούμενη ανάλυση εικόνας από πλάνα drone είτε για τον έλεγχο των αιτήσεων ασύλου.

Η ταξινόμηση βρίσκεται στον πυρήνα της μηχανικής μάθησης – ή τουλάχιστον του τύπου της μηχανικής μάθησης με βάση τα δεδομένα που έχει γίνει κυρίαρχη σήμερα. Τα μεμονωμένα σημεία δεδομένων οργανώνονται σε κατηγορίες και υποκατηγορίες, μια διαδικασία που διεξάγεται είτε μέσω επιβλεπόμενης είτε μη επιβλεπόμενης μάθησης. Στην επιβλεπόμενη μάθηση, τα δεδομένα εκπαίδευσης επισημαίνονται σύμφωνα με μια προκαθορισμένη ταξινομία. Στην πράξη, αυτό συνήθως σημαίνει ότι οι άνθρωποι αποδίδουν ετικέτες σε δεδομένα, όπως “σκύλος” σε μια εικόνα του εν λόγω σκύλου. Το μοντέλο μηχανικής μάθησης μαθαίνει από αυτό το σύνολο δεδομένων με ετικέτες εντοπίζοντας μοτίβα που συσχετίζονται με τις ετικέτες. Στη μάθηση χωρίς επίβλεψη, τα δεδομένα δεν επισημαίνονται από τον άνθρωπο. Αντ’ αυτού, ο αλγόριθμος εντοπίζει ανεξάρτητα μοτίβα και δομές μέσα στα δεδομένα. Με άλλα λόγια, ο αλγόριθμος ταξινομεί τα δεδομένα δημιουργώντας τις δικές του συστάδες με βάση τα μοτίβα που ενυπάρχουν στο σύνολο δεδομένων. Δημιουργεί τη δική του ταξινομία κατηγοριών, η οποία μπορεί να ευθυγραμμίζεται ή να μην ευθυγραμμίζεται με τα συστήματα που δημιουργούνται από τον άνθρωπο.

Ο υποτιθέμενος τύπος εγκληματία

Όπως επισημαίνει η μελετήτρια της τεχνητής νοημοσύνης και των συνόρων Louise Amoore, η διατύπωση αλγοριθμικών συστάδων ως αναπαράσταση εγγενών, “φυσικών” μοτίβων από δεδομένα αποτελεί μια “εξαιρετικά ισχυρή πολιτική πρόταση”, καθώς “προσφέρει την υπόσχεση μιας ουδέτερης, αντικειμενικής και χωρίς αξίες δημιουργίας και οριοθέτησης της πολιτικής κοινότητας”.18 Η ιδέα της αλγοριθμικής συστάδας ως “φυσικής κοινότητας” περιλαμβάνει μια σημαντική ρατσιστική κίνηση: οι μορφές συμπεριφοράς που συνδέονται με την παράτυπη μετανάστευση χαρακτηρίζονται κατά συνέπεια ως “επικίνδυνες”. Καθώς αυτές οι συστάδες σχηματίζονται χωρίς αναφορά σε προκαθορισμένα κριτήρια, όπως τα “κλασικά” υποκατάστατα της φυλής, όπως η εθνικότητα ή η θρησκεία, είναι δύσκολο να αμφισβητηθούν με υπάρχουσες έννοιες όπως τα προστατευόμενα χαρακτηριστικά ή η προκατάληψη. 19 Για παράδειγμα, ένας μετανάστης μπορεί να αναγνωριστεί ως κίνδυνος για την ασφάλεια από έναν αλγόριθμο μηχανικής μάθησης που βασίζεται σε μια αδιαφανή συσχέτιση μεταξύ ταξιδιωτικών δρομολογίων, αναρτήσεων στα μέσα κοινωνικής δικτύωσης, προσωπικών και επαγγελματικών δικτύων και καιρικών συνθηκών.

Η δημιουργία κατηγοριών σύμφωνα με εγγενή χαρακτηριστικά απηχεί και επεκτείνεται σε άλλες πρακτικές του δέκατου ένατου αιώνα: συγκεκριμένα, μια σειρά επιστημονικών προσπαθειών που χρησιμοποιούν μετρήσεις και στατιστικές για τον εντοπισμό κανονικοτήτων και μοτίβων που θα υποδείκνυαν εγκληματική συμπεριφορά. Όπως η μη επιβλεπόμενη μηχανική μάθηση, οι τομείς της κρανιομετρίας, της φρενολογίας και της εγκληματολογικής ανθρωπολογίας συσσώρευαν συστηματικά δεδομένα σχετικά με ανθρώπινα υποκείμενα για να συλλέξουν μοτίβα που θα μπορούσαν να ταξινομηθούν σε κατηγορίες εγκληματικότητας.

Για παράδειγμα, φρενολόγοι όπως ο Franz Joseph Gall συνέδεσαν συγκεκριμένα χαρακτηριστικά της προσωπικότητας με την προεξοχή περιοχών του κρανίου. Στον συναφή τομέα της φυσιογνωμίας, προσωπικότητες όπως ο Ελβετός πάστορας Johann Kaspar Lavater ανέλαβαν τη συστηματική μελέτη των χαρακτηριστικών του προσώπου ως οδηγού για την εγκληματική συμπεριφορά. Με αφορμή την ανάπτυξη της φωτογραφίας, οι μελέτες που διερευνούσαν τα σημάδια εγκληματικότητας στο πρόσωπο κέρδισαν έδαφος, με τους κατάδικους και τους τροφίμους των ασύλων να υποβάλλονται επανειλημμένα σε τέτοιες “μελέτες”. Οι σύνθετες φωτογραφίες του Φράνσις Γκάλτον, ιδρυτή του κινήματος της ευγονικής και πρωτοπόρου της ταυτοποίησης δακτυλικών αποτυπωμάτων, αποτελούν χαρακτηριστικό παράδειγμα: εικόνες καταδίκων τοποθετούνταν η μία πάνω στην άλλη για να εξαχθούν κανονικότητες ως φυσικοί δείκτες εγκληματικότητας.20

Η εγκληματολογική ανθρωπολογία ενοποίησε αυτές τις προσεγγίσεις σε μια συνεκτική προσπάθεια να υποβληθεί το εγκληματικό σώμα σε επιστημονικό έλεγχο. Υπό την ηγεσία του Ιταλού ψυχιάτρου και ανθρωπολόγου Cesare Lombroso, οι εγκληματολόγοι ανθρωπολόγοι χρησιμοποίησαν ένα ευρύ φάσμα ανθρωπομορφικών εργαλείων μέτρησης, από τις ακριβείς μετρήσεις των άκρων του Bertillon μέχρι τις κρανιομετρικές μετρήσεις κρανίου, τη χαρτογράφηση των χαρακτηριστικών του προσώπου και την επισήμανση διακριτικών σημάτων όπως οι ουλές και τα τατουάζ. Σε αυτή τη βάση, απαρίθμησαν έναν κατάλογο με τα λεγόμενα “στίγματα” ή φυσικές κανονικότητες που συναντώνται στο σώμα του “γεννημένου εγκληματία” Αν και η έννοια αυτή έχει ευρέως απαξιωθεί σήμερα, η υποκείμενη μέθοδος ταξινόμησης με βάση μαζικά χαρακτηριστικά δεδομένα εξακολουθεί να υφίσταται.

Η εμπιστοσύνη στα συμπεράσματα που προκύπτουν από την ποσοτική ανάλυση των χαρακτηριστικών του προσώπου παραμένει μια ισχυρή γοητεία. Μια μελέτη του 2016 ισχυρίστηκε ότι είχε εκπαιδεύσει με επιτυχία έναν αλγόριθμο βαθύ νευρωνικού δικτύου για να προβλέψει την εγκληματικότητα με βάση τις λήψεις κεφαλής από άδειες οδήγησης, ενώ μια μελέτη του 2018 προέβαλε παρόμοιους ισχυρισμούς σχετικά με την ανάγνωση του σεξουαλικού προσανατολισμού από φωτογραφίες ιστοσελίδων γνωριμιών.

Όταν ασχολούμαστε κριτικά με αυτά τα συστήματα, είναι επιτακτική ανάγκη να έχουμε κατά νου το ευρύτερο πολιτικό σχέδιο για το οποίο αναπτύσσονται. Όπως γράφει η μελετήτρια της Τεχνητής Νοημοσύνης Kate Crawford: “Η συσχέτιση της κρανιακής μορφολογίας με τη νοημοσύνη και τις αξιώσεις νομικών δικαιωμάτων λειτουργεί ως τεχνικό άλλοθι για την αποικιοκρατία και τη δουλεία. Ενώ υπάρχει η τάση να εστιάζουμε στα σφάλματα στις μετρήσεις του κρανίου και στον τρόπο διόρθωσής τους, το πολύ μεγαλύτερο σφάλμα έγκειται στην υποκείμενη κοσμοθεωρία που ενέπνευσε αυτή τη μεθοδολογία. Ο στόχος, λοιπόν, δεν θα πρέπει να είναι να ζητήσουμε ακριβέστερες ή “δίκαιες” μετρήσεις κρανίου για να στηρίξουμε ρατσιστικά μοντέλα νοημοσύνης, αλλά να καταδικάσουμε συνολικά την προσέγγιση αυτή.”21 Με άλλα λόγια, οι τεχνικές ταξινόμησης και ποσοτικοποίησης δεν μπορούν να διαχωριστούν από τα κοινωνικοπολιτικά πλαίσια που καλούνται να επαληθεύσουν και να εγγυηθούν. Για να επαναδιατυπώσουμε τον μελετητή των Διεθνών Σχέσεων Robert Cox, η ταξινόμηση και η ποσοτικοποίηση γίνονται πάντα για κάποιον και για κάποιο σκοπό.22

Όμως, όπως προειδοποιεί η μελετήτρια Επιστημονικών και Τεχνολογικών Σπουδών Helga Nowotny, αν “εμπιστευόμαστε” τα αποτελέσματα της αλγοριθμικής πρόβλεψης ως θεμελιωδώς αληθινά, παρεξηγούμε τη λογική των βαθιών νευρωνικών δικτύων. Αυτά τα δίκτυα “μπορούν να ανιχνεύσουν κανονικότητες και να εντοπίσουν μοτίβα μόνο με βάση δεδομένα που προέρχονται από το παρελθόν. Δεν εμπλέκεται αιτιώδης συλλογισμός, ούτε μια τεχνητή νοημοσύνη προσποιείται ότι εμπλέκεται.” 23

Αν και αυτές οι μηχανές μπορεί να παράγουν “πρακτικές και μετρήσιμες προβλέψεις”, δεν έχουν καμία αίσθηση της αιτίας και του αποτελέσματος – εν ολίγοις, δεν έχουν “κατανόηση” με την ανθρώπινη έννοια.24 Επιπλέον, η υπερβολική εξάρτηση από τους αλγορίθμους μας ωθεί προς τον ντετερμινισμό, ευθυγραμμίζοντας τη συμπεριφορά μας με τη μηχανική πρόβλεψη αντί για εναλλακτικές διαδρομές. Αυτό αποτελεί πρόβλημα σε πολιτικές κουλτούρες που βασίζονται στην υπευθυνότητα. Αν θέλουμε να μάθουμε από το παρελθόν για να οικοδομήσουμε καλύτερα μέλλοντα, δεν μπορούμε να βασιστούμε στα προγνωστικά αποτελέσματα ενός μοντέλου μηχανικής μάθησης.

AI déjà-vu

Υπάρχουν πολλά νήματα εκτός από την κοινή και συνεχή εξάρτηση από την ποσοτικοποίηση και την ταξινόμηση, από τα οποία θα μπορούσε κανείς να τραβήξει για να εξερευνήσει την περιπλεγμένη ιστορία των τεχνολογιών επιτήρησης και ταυτοποίησης από τον δέκατο ένατο αιώνα μέχρι σήμερα. Οι περιθωριοποιημένοι, πλεονάζοντες πληθυσμοί, όπως οι κατάδικοι και οι αποικιοκράτες, χρησιμοποιήθηκαν επί μακρόν ως “τεχνολογικά πεδία δοκιμών” για την τελειοποίηση των συστημάτων ταξινόμησης και την εκπαίδευση αλγορίθμων. Ο φόβος της ανεξέλεγκτης ανθρώπινης κινητικότητας συνεχίζει να χρησιμοποιείται ως κινητήριος μοχλός για την έρευνα και την ανάπτυξη, με την τεχνολογία, με τη σειρά της, να χρησιμοποιείται για να διορθώσει προβλήματα που η ίδια δημιούργησε. Και οι θετικιστικές κοινωνικοεπιστημονικές μέθοδοι εξακολουθούν να είναι χρήσιμες για το έργο της μετατροπής των πολλαπλασιασμών σε τακτοποιημένες αριθμητικές τιμές.

Αντί να υποκύψουμε στην υπερβολή της τεχνητής νοημοσύνης, θα μπορούσαμε αντ’ αυτού να συντονιστούμε σε μια αίσθηση déjà-vu: την ανησυχητική αίσθηση ότι τα έχουμε ξαναδεί όλα αυτά. Με αυτόν τον τρόπο, θα μπορούσαμε να αντισταθούμε καλύτερα στους φανταστικούς ισχυρισμούς των εταιρικών και συνοριακών παραγόντων και να αρχίσουμε να αποσυνδέουμε τις τεχνολογίες από τα παγκόσμια σχέδια κυριαρχίας.

**

Αυτό το άρθρο βασίζεται σε έρευνα που πραγματοποιήθηκε κατά τη διάρκεια του έργου “Ελαστικά σύνορα: Rethinking the Borders of the 21st Century’ που εδρεύει στο Πανεπιστήμιο του Graz και χρηματοδοτείται από το ίδρυμα NOMIS.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, πινακίδα 16, σ. 262.

2 Είμαι μέλος μιας ομάδας ερευνητών στο χρηματοδοτούμενο από το NOMIS πρόγραμμα Ελαστικά Σύνορα, Πανεπιστήμιο του Graz, Αυστρία.

3 Βλέπε επίσης: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities, Vol. 18, No.5, 2012, pp. 593-607- K. Donnelly, 'We Have Always Been Biased: Measuring the human body from anthropometry to the computational social sciences', Public, Vol. 30, No. 60, 2020, pp. 20-33- A. Valdivia and M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects", στο Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, σελ. 840-50.

4 Αν τα αποτυπώματα ελήφθησαν στην Ελλάδα, αλλά ο αιτών άσυλο συνελήφθη αργότερα στη Γερμανία, μπορεί να αντιμετωπίσει την απέλασή του στην Ελλάδα για την επεξεργασία της αίτησής του.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa and D. Alaa, Η εφαρμογή της προσέγγισης των hotspot της ΕΕ στην Ελλάδα και την Ιταλία: A comparative and interdisciplinary analysis (working paper), Swiss Network for International Studies, 2021, σελ. 36.

6 J.B. Rule, Private Lives and Public Surveillance, Allen Lane, 1973.

7 <κωδικός>Ο.π., σ. 91.

8 M. Foucault, Η κοινωνία πρέπει να υπερασπιστεί. Διαλέξεις στο Collège de France, 1975-76, μτφρ. D. Macey, Picador, 2003, σ. 244.

9 S. A. Cole, Ταυτότητες υπόπτων: A history of fingerprinting and criminal identification, Harvard University Press, 2001, σ.12.

10 <κωδικός>Ο.π., σ. 18-9.

11 Ibid., pp. 34-45.

12 Ibid., σελ. 48.

13 M. Foucault, Η τάξη των πραγμάτων. Routledge, 1975.

14 Z. Bauman, Modernity and the Holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Unsettling the coloniality of being/power/truth/freedom: Towards the human, after man, its overrepresentation - an argument", CR: The New Centennial Review, Vol. 3, No. 3, 2003, pp. 257-337.

17 G. C. Bowker and S. L. Star, Sorting things out: Classification and its consequences, MIT press, 2000, σ. 196.

18 L. Amoore, 'The deep border', Political Geography, 2001, 102547.

19 Ibid.

20 Ο Γκάλτον διεξήγαγε μια παρόμοια μελέτη σε εβραϊκά αγόρια σχολείων, αναζητώντας φυλετικούς δείκτες εβραϊκότητας.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, σελ. 126-7.

22 R. W. Cox, "Κοινωνικές δυνάμεις, κράτη και παγκόσμιες τάξεις: Beyond International Relations Theory', Millennium, Vol. 10, No. 2, 1981, pp. 126-155.

23 H. Nowotny, In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Polity, 2021, σ. 22.

24 Ibid.