Daniel Innerarity: «Είναι ζωτικής σημασίας να τροφοδοτούμε την ΤΝ με περισσότερη ποικιλομορφία»

Ο Daniel Innerarity, ένας από τους πιο εξέχοντες Ισπανούς διανοούμενους στον σύγχρονο κόσμο, προτείνει στο τελευταίο του βιβλίο την ανάγκη «να τροφοδοτούμε την ΤΝ με περισσότερη ποικιλομορφία» ώστε να μην μετατραπεί σε εργαλείο αποκλεισμού.

Ο Innerarity (Μπιλμπάο, 1959), καθηγητής Πολιτικής και Κοινωνικής Φιλοσοφίας, ερευνητής Ikerbasque στο Πανεπιστήμιο του Βασικού Κράτους, προτείνει αυτές τις ιδέες στο Μια κριτική θεωρία της τεχνητής νοημοσύνης (Galaxia Gutenberg, 2025).

Και μαζί με την επέκταση της ποικιλομορφίας στις πηγές που τροφοδοτούν αυτά τα νέα συστήματα, ο καθηγητής προσθέτει μια άλλη ιδέα: την ανάγκη «να επιβλέπουμε την ανθρώπινη αλληλεπίδραση για να διασφαλίσουμε τη συμβατότητά της με δημοκρατικές αξίες».

Σε αυτή τη συνέντευξη συζητάει για αυτό το νέο βιβλίο, που βραβεύτηκε με το III Βραβείο Δοκιμίου Eugenio Trías. Στη φωτογραφία, μια γλάρος πάνω σε μια καγκελόπορτα διπλωμένη μπροστά στη θάλασσα υποδηλώνει, ενάντια στο αναμενόμενο, έναν άλλο τρόπο να κοιτάμε την τεχνολογική επανάσταση.

Γιατί αυτή η εξώφυλλο και αυτό το βιβλίο;

Δεν ήθελα την τυπική εικόνα σε αποχρώσεις του μπλε, που συνδέεται με το αιθέριο και το σύννεφο, γιατί αντιλαμβάνομαι την τεχνητή νοημοσύνη με πιο υλικό τρόπο, σε αντίθεση με το ανθρώπινο σώμα. Η φωτογραφία, ελαφρώς επεξεργασμένη με ΤΝ, παίζει με αυτή την ιδέα: μια μηχανή θα ερμηνεύσει ότι η ράβδος έχει λυγίσει από το βάρος της γλάρου, ενώ εμείς οι άνθρωποι καταλαβαίνουμε αμέσως το ανέκδοτο. Είναι μια μεταφορά για τις διαφορές ανάμεσα στην ενόραση μας και την επεξεργασία της ΤΝ.

Έγραψα αυτό το βιβλίο ώστε να κατανοήσουμε τι παίζει ρόλο. Υπάρχει πολλή υστερία σχετικά με την τεχνολογία, με υπερβολικές προσδοκίες τεχνολογικού σωτηριολογισμού. Η Silicon Valley θέλει να πιστεύουμε ότι η τεχνολογία, και όχι η δημοκρατική διαβούλευση, θα λύσει τα μεγάλα προβλήματα. Υπάρχει επίσης μια υπερβολική πανικός που δεν ανταποκρίνεται στους πραγματικούς κινδύνους ούτε στις δυνατότητές μας να τους αντιμετωπίσουμε. Η ΤΝ δεν επιβάλλει έναν δρόμο, ανοίγει διάφορες δυνατότητες, όπως το ιστορικό, πολιτικό και γεωστρατηγικό πλαίσιο της εποχής. Δεν είναι γραμμένο ότι αυτό θα τελειώσει άσχημα ούτε ότι η τεχνολογία θα μειώσει την ελευθερία μας, μπορεί να έχει απελευθερωτικό δυναμικό.

Είναι ο ‘τεχνοσωτηριολογισμός’ η ιδεολογία της ψηφιακής εποχής;

Είναι αυτή των ορισμένων μεγάλων επιχειρηματιών στον ψηφιακό κόσμο, ενισχυμένη από την εντυπωσιακή τεχνολογική ανάπτυξη. Κάθε μέρα εμφανίζονται αισιόδοξες ή ανησυχητικές ειδήσεις: χθες, μια γυναίκα ανέκτησε την ομιλία της χάρη στην ΤΝ· σήμερα, οι μεταφραστές διαμαρτύρονται ώστε οι εργασίες τους να μην τροφοδοτούν αυτά τα συστήματα. Αυτό το καρουζέλ προόδου και συγκρούσεων προκαλεί απορία.

Ποιος είναι ο ρόλος της πολιτικής απόφασης σε μια αλγοριθμική δημοκρατία, δεδομένου ότι η ΤΝ επηρεάζει τόσο τη συζήτηση όσο και τη λήψη αποφάσεων;

Η διαδικασία λήψης αποφάσεων στην ΤΝ περιλαμβάνει σχεδιασμό, δεδομένα και αλληλεπίδραση με χρήστες, και το κλειδί είναι πότε, πώς και γιατί πρέπει να παρεμβαίνουν οι άνθρωποι. Η έλλειψη ποικιλομορφίας στους σχεδιαστές αυτών των συστημάτων, ειδικά η περιορισμένη παρουσία γυναικών, μπορεί να δημιουργήσει μεροληψίες. Ένα παράδειγμα είναι η αναγνώριση προσώπου που συγχέει μαύρες γυναίκες με ουραγκοτάγκους λόγω μεροληπτικής εκπαίδευσης με περισσότερες εικόνες λευκών ανδρών. Είναι ζωτικής σημασίας να τροφοδοτούμε την ΤΝ με περισσότερη ποικιλομορφία, όπως κάνει η Ισπανία με την ΤΝ στα ισπανικά και τις συνυποστηριζόμενες γλώσσες [ALIA], ενάντια στον τωρινό αγγλοκεντρισμό, και να επιβλέπουμε την ανθρώπινη αλληλεπίδραση για να διασφαλίσουμε τη συμβατότητά της με δημοκρατικές αξίες, όπως κάνουν το Algorithm Watch και η AESIA (Ισπανική Υπηρεσία Επιτήρησης της ΤΝ).

Γιατί δεν είναι επιθυμητό η ΤΝ να είναι ίδια με τον άνθρωπο; Μπορούμε να την ελέγξουμε;

Στον αεροναυπηγικό τομέα, οι αδελφοί Wright απέδειξαν ότι, αντί να μιμούνται τα πουλιά, έπρεπε να μελετούν την αεροδυναμική. Το ίδιο συμβαίνει και με την ΤΝ: αντί να αντιγράφει την ανθρώπινη νοημοσύνη, πρέπει να αξιοποιεί τις υπολογιστικές της δυνατότητες και τη διαχείριση μεγάλων όγκων δεδομένων. Λειτουργεί καλά σε περιβάλλοντα με σαφή δεδομένα και διπλές λύσεις, αλλά σε πολύπλοκα ή ασαφή προβλήματα, οι άνθρωποι παραμένουν αναντικατάστατοι.

Δεν έχουμε βρει έναν κατάλληλο ορισμό ελέγχου για την ΤΝ: είτε αφήνουμε υπερβολικό περιθώριο, θέτοντας σε κίνδυνο αξίες, είτε εφαρμόζουμε υπερβολτικό έλεγχο που εμποδίζει τη μάθησή της. Ο Ευρωπαϊκός Νόμος για την ΤΝ προχωρά στη σωστή κατεύθυνση, αλλά παραμένει γενικός. Είναι σαν το 1868, όταν στο Ηνωμένο Βασίλειο απαιτούσαν από ένα άτομο να περπατά μπροστά από το αυτοκίνητο με μια κόκκινη σημαία για να αποφεύγονται ατυχήματα. Το κλειδί είναι να συνδυάσουμε ταχύτητα και ασφάλεια, όπως με τα σύγχρονα αυτοκίνητα ή το ABS, όπου η τεχνολογική βελτίωση αποτρέπει τους κινδύνους από απότομο φρενάρισμα σε κατάσταση πανικού.

Ποια νομιμοποίηση έχουμε να επιβάλλουμε μια ευρωπαϊκή ρυθμιστική προοπτική;

Το ιδανικό θα ήταν να επιτευχθεί μια παγκόσμια συμφωνία σχετικά με ηθικά, πολιτικά και δημοκρατικά πρότυπα, αλλά έχουμε διαφορετικές κουλτούρες. Όπως και με την κλιματική αλλαγή, γνωρίζουμε ότι είναι επείγον, αλλά προχωράμε με μερικές συμφωνίες. Ωστόσο, τα ευρωπαϊκά πρότυπα επηρεάζουν άλλους παράγοντες. Επιπλέον, η ΤΝ και η οικολογία συγκλίνουν, διότι η ενεργειακή κατανάλωση αυτής της τεχνολογίας είναι τεράστια και ήδη αποτελεί μέρος της διεθνούς κλιματικής ατζέντας.

Τι σημαίνει όταν οι ρυθμίσεις της ΤΝ διαμορφώνονται από άτομα που δεν είναι ντόπιοι ψηφιακοί, με διαφορετική αντίληψη για τους κινδύνους και τα οφέλη από τις νέες γενιές;

Η ψηφιακή μεταμόρφωση δεν περιορίζεται μόνο στην ψηφιοποίηση των διοικήσεων, αλλά στην μεταμόρφωση της κοινωνίας συνολικά. Και μια μεταμόρφωση τέτοιου μεγέθους πρέπει να είναι δημοκρατική και συμπεριληπτική, να ανοίγει συζητήσεις, να επιτρέπει την κριτική και να λαμβάνει υπόψη τις γενεακές, οικονομικές, γεωγραφικές και πολιτισμικές διαφορές. Δεν μπορεί να διαχειριστεί χωρίς να λαμβάνει υπόψη την ποικιλομορφία: ντόπιοι ψηφιακοί, ηλικιωμένοι, μετανάστες, κάτοικοι αγροτικών περιοχών… Είναι μια δοκιμασία, θα αναπτύξουμε μια συμπεριληπτική τεχνολογία ή θα αφήσουμε να διχάσει και να αποβάλλει; Πρέπει να αποτρέψουμε η ψηφιοποίηση να γίνει εργαλείο αποκλεισμού, όπως φάνηκε με τη μετάβαση στην οικολογική πολιτική και τις διαμαρτυρίες των κίτρινων γιλέκων στη Γαλλία.

Στο «Η εποχή της αντεπίθεσης», η Andrea Rizzi προτείνει έναν παγκόσμιο οργανισμό για τη διακυβέρνηση της ΤΝ, όπως ο ΟΗΕΑ στη πυρηνική ενέργεια. Πώς να το κάνουμε σε ένα πλαίσιο δυσπιστίας;

Ζούμε σε αυτή την εποχή και οι διεθνείς θεσμοί αμφισβητούνται για ιδεολογικούς ή γεωστρατηγικούς λόγους. Υπάρχει η λογική του «όποιος προλαβαίνει, κερδίζει» και τα παιχνίδια μηδενικού αθροίσματος, που δυσκολεύουν μια ισχυρή διεθνή διακυβέρνηση. Σήμερα, το μοντέλο win-win ούτε υπάρχει ούτε αναμένεται. Σε αυτό το πλαίσιο, η πανδημία είχε αμφίβολες επιπτώσεις. Στα θετικά, προώθησε μια συνεργατική απάντηση στην Ευρώπη, ενίσχυσε μηχανισμούς αλληλεγγύης όπως τα ταμεία Next Generation, που δεν υπήρχαν το 2008. Στα αρνητικά, ενίσχυσε τις ανισότητες, όπως η διαδικτυακή εκπαίδευση, που απέκλεισε τους μαθητές από το σχολικό περιβάλλον, και δημιούργησε αίσθηση ευαλωτότητας και κοινωνικής οργής, τροφοδοτώντας την δυσπιστία προς τις αρχές, τους μετανάστες και άλλες χώρες, από τις οποίες προέρχονται ορισμένοι εξτρεμιστές σήμερα.

Ποιες είναι οι επιπτώσεις αυτής της δυσπιστίας;

Τώρα, η κοινή γνώμη έχει μεγαλύτερη κριτική σκέψη, κάτι που μπορεί να θεωρηθεί δημοκρατική πρόοδος. Ωστόσο, πιστεύω ότι η ιδέα της διαφάνειας είναι υπερεκτιμημένη και ότι η πολιτισμική μας οπτική αντιλαμβάνεται λανθασμένα ότι το να βλέπει κανείς ισοδυναμεί με το να καταλαβαίνει. Αντί για τη διαφάνεια –που νοείται απλώς ως «να βλέπει κανείς μέσα στο μαύρο κουτί»– προτείνω να εστιάσουμε στην εξηγησιμότητα: δεν αρκεί να δείχνουμε, πρέπει να κάνουμε κατανοητό, διότι τα τρέχοντα τεχνολογικά συστήματα είναι τόσο πολύπλοκα που μπορούν να αξιολογηθούν σωστά μόνο μέσω αξιόπιστων δημόσιων θεσμών διαμεσολάβησης.

Πώς αντιμετωπίζουμε αλγορίθμους που προωθούν τον διχασμό και την παραπληροφόρηση;

Μεταβαίνουμε από ένα οικοσύστημα με λίγες πηγές πληροφόρησης σε ένα με πολλές, όπου η πρόκληση είναι να διακρίνουμε την αξιόπιστη. Αυτή η αφθονία, ωφέλιμη και δημοκρατική, διαστρεβλώνεται από τα κοινωνικά δίκτυα με αλγορίθμους που προωθούν τον εξτρεμισμό, τον διχασμό, το σκανδαλώδες και τιμωρούν τη μετριοπάθεια. Ωστόσο, μπορούν να ρυθμιστούν οι αλγόριθμοι ώστε να προάγουν δυναμικές συμβατές με μια δημοκρατική κουλτούρα, όπως κάνει η ΕΕ.

Πώς αντιμετωπίζουμε τη σύγκρουση μεταξύ της ΤΝ και των δικαιωμάτων πνευματικής ιδιοκτησίας;

Η Ευρώπη ηγείται στη ρύθμιση των δικαιωμάτων πνευματικής ιδιοκτησίας και ιδιωτικότητας, αλλά η ισορροπία είναι πολύπλοκη. Ένα μεγάλο μέρος της ανθρώπινης δημιουργικότητας αποτελείται από την ανασύνθεση της δημιουργικότητας άλλων, δεν είμαστε τόσο δημιουργικοί όσο πιστεύουμε. Δεν πρόκειται να δικαιολογήσουμε την κλοπή, υπάρχουν προφανή όρια, αλλά σε άλλες περιπτώσεις δεν είναι εύκολο να ορίσουμε τι είναι πρωτότυπο και τι επανάληψη, σε μεγάλο βαθμό επειδή ζούμε σε μια κουλτούρα με πολλά προϊόντα –όπως σενάρια σειρών ή bestsellers– επιφανειακά ή βασισμένα σε λίγες, μη πρωτότυπες φόρμουλες.

Η ΤΝ επαναστατεί σε τομείς όπως η ιατρική, αλλά η εκπαίδευση καθυστερεί. Τι θα λέγατε γενικά σε δασκάλους και καθηγητές, όπως εσείς;

Σε τομείς όπως η ιατρική (ή το δίκαιο), γίνεται πολύ εμφανές το χάσμα ανάμεσα σε όσα περιμένει η κοινωνία και σε μια εκπαίδευση απομνημόνευσης, επανάληψης και λίγης δημιουργικότητας. Αν και στη δημόσια υγεία και τη δικαιοσύνη δεν κάνουμε πειράματα, θα ήταν απαραίτητη μια πιο ολιστική εκπαίδευση.

Γενικά, θα έλεγα στους δασκάλους ότι πλέον δεν είμαστε μόνο μεταδότες πληροφοριών. Από τότε που υπάρχει το Google, αυτή η λειτουργία έχει γίνει κοινότοπη, οι μαθητές δεν μας χρειάζονται πια για να βρουν δεδομένα. Τι μπορούμε να τους προσφέρουμε που να μην μπορούν να βρουν μόνοι τους; Μπορούμε να τους βοηθήσουμε να διατυπώσουν τις σωστές ερωτήσεις –γιατί η αναζήτηση δεν είναι εύκολη ή αυθόρμητη– και να τους διδάξουμε πώς να βρίσκουν πραγματικά αυτό που ψάχνουν. Το Google ανταγωνίζεται μόνο στη συλλογή πληροφοριών, όχι στη δημιουργική διδασκαλία.

Πηγή: Aser G. Rada / Agencia SINC / CC By

Φωτογραφία: Juantxo Egaña / CC By-sa