Daniel Innerarity: „Es ist entscheidend, die KI mit mehr Vielfalt zu nähren.“

Daniel Innerarity, einer der bedeutendsten spanischen Denker der zeitgenössischen Welt, schlägt in seinem letzten Buch die Notwendigkeit vor, „die KI mit mehr Vielfalt zu füttern“, damit sie kein Instrument der Ausgrenzung wird.

Innerarity (Bilbao, 1959), Professor für Politische und Soziale Philosophie, Forscher bei Ikerbasque an der Universität des Baskenlandes, präsentiert diese Ideen in Eine kritische Theorie der künstlichen Intelligenz (Galaxia Gutenberg, 2025).

Und zusammen mit der Erweiterung der Vielfalt in den Quellen, die diese neuen Systeme speisen, fügt der Professor eine weitere Idee hinzu: die Notwendigkeit, „die menschliche Interaktion zu überwachen, um ihre Vereinbarkeit mit demokratischen Werten zu gewährleisten“.

In diesem Interview spricht er über dieses neue Buch, das mit dem III. Eugenio Trías Essaypreis ausgezeichnet wurde. Auf dem Cover, eine Möwe auf einem gebogenen Geländer vor dem Meer, deutet entgegen aller Erwartung eine andere Sichtweise auf die technologische Revolution an.

Warum dieses Cover und dieses Buch?

Ich wollte kein typisches Bild in Blautönen, das mit Ätherischem und Wolke assoziiert wird, weil ich künstliche Intelligenz eher materialistisch sehe, im Gegensatz zum menschlichen Körper. Das Foto, leicht mit KI retuschiert, spielt mit dieser Idee: Eine Maschine würde interpretieren, dass die Stange durch das Gewicht der Möwe gebogen ist, während wir Menschen den Witz sofort verstehen. Es ist eine Metapher für die Unterschiede zwischen unserer Intuition und der Verarbeitung der KI.

Ich schrieb dieses Buch, um verständlich zu machen, worum es geht. Es gibt viel Hysterie über die Technologie, mit überhöhten Erwartungen an Technosolutio­nismus. Silicon Valley will, dass wir glauben, die Technologie, und nicht die demokratische Beratung, werde die großen Probleme lösen. Es gibt auch eine übertriebene Panik, die weder an den tatsächlichen Risiken noch an unseren Möglichkeiten, ihnen zu begegnen, ausgerichtet ist. KI setzt keinen Weg fest, sondern eröffnet verschiedene Möglichkeiten, wie der aktuelle historische, politische und geopolitische Kontext. Es ist nicht vorbestimmt, dass alles schlecht endet oder dass die Technologie unsere Freiheit einschränkt; sie kann ein emanzipatorisches Potenzial haben.

Ist ‘Technosolutio­nismus’ die Ideologie des digitalen Zeitalters?

Es ist die der großen Unternehmer der digitalen Welt, verstärkt durch die spektakuläre technologische Entwicklung. Täglich gibt es vielversprechende oder beunruhigende Nachrichten: Gestern erlangte eine Frau dank KI wieder das Sprechen; heute protestieren Übersetzer, damit ihre Arbeiten diese Systeme nicht speisen. Dieses Karussell aus Fortschritten und Konflikten erzeugt Verwirrung.

Welche Rolle spielt die politische Entscheidung in einer algorithmischen Demokratie, angesichts der Tatsache, dass KI sowohl die Debatte als auch die Entscheidungsfindung beeinflusst?

Der Entscheidungsprozess bei KI umfasst Design, Daten und Interaktion mit Nutzern, und der Schlüssel liegt darin, wann, wie und wofür Menschen eingreifen sollten. Der Mangel an Vielfalt bei den Entwicklern dieser Systeme, insbesondere die geringe weibliche Präsenz, kann Vorurteile erzeugen. Ein Beispiel ist die Gesichtserkennung, die schwarze Frauen mit Orang-Utans verwechselte, aufgrund voreingenommener Trainings mit mehr Bildern weißer Männer. Es ist entscheidend, die KI mit mehr Vielfalt zu füttern, so wie Spanien es mit KI in Kastilisch und den Koofiziellensprachen [ALIA] macht, im Gegensatz zum aktuellen Anglocentrismus, und die menschliche Interaktion zu überwachen, um ihre Vereinbarkeit mit demokratischen Werten zu garantieren, wie Algorithm Watch und die AESIA (Spanische Agentur für KI-Überwachung).

Warum ist es nicht wünschenswert, dass KI genauso wie der Mensch ist? Können wir sie kontrollieren?

In der Luftfahrt zeigten die Brüder Wright, dass man, anstatt die Vögel zu imitieren, die Aerodynamik studieren sollte. Das gilt auch für KI: Anstatt die menschliche Intelligenz zu replizieren, sollte man ihre Rechenfähigkeit und den Umgang mit großen Datenmengen nutzen. Sie funktioniert gut in Kontexten mit klaren Daten und binären Lösungen, aber bei komplexen oder mehrdeutigen Problemen bleiben Menschen unersetzlich.

Wir haben kein geeignetes Kontrollkonzept für KI gefunden: Entweder lassen wir zu viel Spielraum, was Werte gefährdet, oder wir üben eine zu strenge Kontrolle aus, die ihr Lernen hemmt. Das Europäische KI-Gesetz ist ein Schritt in die richtige Richtung, bleibt aber allgemein. Es ist wie 1868, als im Vereinigten Königreich verlangt wurde, dass eine Person vor dem Auto mit einer roten Fahne läuft, um Unfälle zu vermeiden. Der Schlüssel liegt darin, Geschwindigkeit und Sicherheit zu kombinieren, wie bei modernen Autos oder ABS, wo technologische Verbesserungen das Risiko plötzlichen Bremsens in Paniksituationen verringern.

Welche Legitimität haben wir, eine europäische Regulierungs-perspektive durchzusetzen?

Idealerweise sollte es eine globale Einigung über ethische, politische und demokratische Standards geben, aber unsere Kulturen unterscheiden sich. Wie beim Klimawandel wissen wir, dass es dringend ist, aber Fortschritte erfolgen nur durch Teilabkommen. Dennoch beeinflussen europäische Standards andere Akteure. Außerdem überschneiden sich KI und Ökologie, weil der Energieverbrauch dieser Technologie enorm ist und bereits auf der internationalen Klimapolitikagenda steht.

Was bedeutet es, wenn die KI-Regelungen von nicht digitalen Einheimischen mit anderen Risikowahrnehmungen und Nutzenvorstellungen formuliert werden als die neuen Generationen?

Die digitale Transformation besteht nicht nur darin, Verwaltungen zu digitalisieren, sondern die Gesellschaft insgesamt zu transformieren. Und eine Transformation dieser Größenordnung muss demokratisch und inklusiv sein, Debatten eröffnen, Kritik zulassen und die Generationen-, Wirtschafts-, Geografie- und Kulturunterschiede berücksichtigen. Sie darf nicht ignorieren, dass Vielfalt besteht: digitale Einheimische, Ältere, Migranten, Bewohner ländlicher Gebiete… Es ist eine Bewährungsprobe: Entwickeln wir eine inklusive Technologie oder lassen wir sie spalten und ausschließen? Wir müssen vermeiden, dass die Digitalisierung ein Werkzeug der Ausgrenzung wird, wie bei den Protesten der Gelbwesten in Frankreich im Zuge der ökologischen Transition.

In „Die Ära der Rache“ schlägt Andrea Rizzi eine globale Organisation zur Steuerung der KI vor, ähnlich der IAEA bei der Kernenergie. Wie kann das in einem Kontext des Misstrauens gelingen?

Wir leben in dieser Ära, und globale Institutionen werden aus ideologischen oder geopolitischen Gründen infrage gestellt. Es dominiert die Logik des „Jeder für sich“ und Nullsummenspiele, was eine solide internationale Steuerung erschwert. Heute existiert das Win-Win-Modell weder noch ist es absehbar. Die Pandemie hatte in diesem Zusammenhang ambivalente Effekte. Positiv war, dass sie eine kooperative Reaktion in Europa förderte, mit Solidaritätsmechanismen wie den Next-Generation-Fonds, die 2008 undenkbar waren. Negativ verstärkte sie Ungleichheiten, etwa bei der Online-Bildung, die Schüler vom Schulumfeld ausschloss, und schürte das Gefühl der Verwundbarkeit und soziale Irritationen, was das Misstrauen gegenüber Behörden, Migranten und anderen Ländern verstärkte, was heute bestimmte Extremismen nährt.

Welche Folgen hat dieses Misstrauen?

Die Bürger haben heute ein kritisches Bewusstsein, was als demokratischer Fortschritt gesehen werden kann. Ich halte jedoch die Idee der Transparenz für überbewertet, und unsere visuelle Kultur nimmt fälschlicherweise an, dass Sehen gleich Verstehen ist. Gegen die Transparenz – verstanden als bloßes „Blick-in-die-Schwarze-Box“ – schlage ich vor, den Fokus auf Erklärbarkeit zu legen: Es reicht nicht, nur zu zeigen, man muss es verständlich machen, denn die heutigen technologischen Systeme sind so komplex, dass sie nur durch vertrauenswürdige öffentliche Vermittlungsinstitutionen angemessen bewertet werden können.

Wie gehen wir mit Algorithmen um, die Polarisierung und Desinformation fördern?

Wir bewegen uns von einem Ökosystem mit wenigen Informationsquellen zu einem mit vielen, bei dem die Herausforderung darin besteht, die zuverlässigen zu erkennen. Diese Fülle, förderlich und demokratisch, wird durch soziale Netzwerke mit Algorithmen verzerrt, die Extremismus, Polarisierung, Skandalöses begünstigen und Moderation bestrafen. Es ist jedoch möglich, Algorithmen zu regulieren, um Dynamiken zu fördern, die mit einer demokratischen Kultur vereinbar sind, wie die EU es tut.

Wie gehen wir mit dem Konflikt zwischen KI und Urheberrechten um?

Europa führt bei Urheberrechts- und Datenschutzregulierungen, aber ist das Gleichgewicht komplex. Ein Großteil menschlicher Kreativität besteht darin, die Kreativität anderer neu zusammenzusetzen; wir sind nicht so kreativ, wie wir glauben. Es geht nicht darum, Plagiat zu rechtfertigen; es gibt offensichtliche Grenzen, aber in anderen Fällen ist es schwer zu bestimmen, was originell ist und was wiederholend, vor allem weil wir in einer Kultur leben, die viele Produkte – wie Drehbücher oder Bestseller – banal oder auf wenig originellen Formeln basierend kennt.

KI revolutioniert Bereiche wie die Medizin, aber die Ausbildung hinkt hinterher. Was würden Sie, allgemein gesagt, Lehrern und Professoren, wie Sie, raten?

In Bereichen wie Medizin (oder Recht) ist der Abstand zwischen gesellschaftlichen Erwartungen und einer memorierenden, repetitiven und wenig kreativen Ausbildung sehr deutlich. Obwohl wir in Gesundheit und Recht keine Experimente machen, wäre eine ganzheitlichere Ausbildung notwendig.

Grundsätzlich würde ich Lehrern sagen, dass wir nicht mehr nur Informationsübermittler sind. Seit es Google gibt, ist diese Funktion trivial geworden; Schüler brauchen uns nicht mehr, um Daten zu finden. Was können wir ihnen bieten, was sie nicht selbst finden können? Wir können ihnen helfen, die richtigen Fragen zu formulieren – denn Suchen ist nicht einfach oder spontan – und ihnen beibringen, wirklich das zu finden, was sie suchen. Google konkurriert mit uns nur im Sammeln von Informationen, nicht im kreativsten Lehren.

Quelle: Aser G. Rada / Agencia SINC / CC By

Fotografía: Juantxo Egaña / CC By-sa