Der Sturz des KI-Reiches

Während der technokratisch-autoritäre Wettlauf um die Entwicklung fortschrittlicher künstlicher Intelligenz-Technologien mit voller Kraft andauert, wächst der Einfluss des Silicon Valley auf regulatorische Agenda bereits – und übertrifft in mancher Hinsicht sogar die vieler Staaten. Zwischen den Ambitionen der globalen Supermächte und der KI-Giganten eröffnet sich Europa jedoch die Chance, nach etwas Besserem zu suchen. Ein Interview mit der preisgekrönten Journalistin und Schriftstellerin Karen Hao.

Alessio Giussani: Es wurden zahlreiche Metaphern für das aktuelle Modell der KI-Entwicklung herangezogen – zum Beispiel ein Papagei oder ein Spiegel. Warum haben Sie gerade die Imperium-Metapher gewählt?

Karen Hao: Ich halte diese Metaphern für äußerst nützlich. Ich konzentriere mich auf das „Imperium“, weil ich nicht nur das technische Werkzeug selbst untersuche und analysiere, was passiert, wenn es in der Gesellschaft angewandt wird, sondern auch die Herstellung der Technologie sowie die Akteure, die enorme wirtschaftliche und politische Macht anhäufen, um sie zu produzieren.

Ich nenne dieses System aus vier Hauptgründen ein Imperium. Erstens, diese Unternehmen beanspruchen Ressourcen, die nicht ihnen gehören: die Daten der Einzelnen sowie die Arbeit von Autoren und Kreativen. Zweitens, sie nutzen die Arbeitskraft extrem aus, sowohl die der Beschäftigten, die in der Produktionskette und bei der Versorgung mit Technologien ausgebeutet werden, als auch die, deren Arbeitsrechte bei der Einführung der Technologien eingeschränkt werden.

Der dritte Punkt betrifft die Kontrolle über Informationen. Eine Hauptcharakteristik der Expansion von Imperien ist die Fähigkeit, jegliche Wissensproduktion und Information durch die Filter ihrer imperialen Ziele zu lenken, und genau das tun die KI-Unternehmen auch. Sie kontrollieren und zensieren die Wissenschaft, indem sie die meisten KI-Forscher finanziell unterstützen und eine Informationstechnologie aufbauen, die zu einer zentralen Plattform werden soll, über die alle anderen mit der Welt verbunden sind, einschließlich der Bildung.

Schließlich verpacken sie all dies in eine zivilisatorische Mission. Sie behaupten, dass sie diese Arbeit machen, weil sie letztlich Technologien entwickeln wollen, die die Menschheit in einen utopischen Zustand versetzen, und wenn die „Bösen“ – meist China – sie vor uns entwickeln, geraten wir in einen dystopischen Zustand. Das ist eine Art religiöse Erzählung, die auch bei alten Imperien üblich war.

Der KI-Imperium, wie Sie es beschreiben, beschränkt sich nicht auf ein Unternehmen; es ist ein System, eine Logik. Was steckt hinter Ihrer Aufmerksamkeit gegenüber OpenAI und seinem CEO, Sam Altman?

Eine Antwort ist, dass die Menschen Geschichten brauchen, um das, was sonst eine abstrakte Idee wäre, in eine konkrete Form zu bringen. Aber OpenAI ist auch deshalb besonders interessant, weil es alle wichtigen Entscheidungen getroffen hat, die die Branchenstandards verändert und in Richtung Imperiumsbildung gelenkt haben. OpenAI war das Unternehmen, das sich entschied, um jeden Preis zu expandieren, große Sprachmodelle zu entwickeln und eine chatbotartige Oberfläche zu schaffen. Fast alles, was die Öffentlichkeit heute mit künstlicher Intelligenz assoziiert, wurde zuerst innerhalb der OpenAI-Mauern entschieden.

Wenn wir diese Geschichte erzählen, wird viel klarer, dass KI nicht unausweichlich ist, weil wir erkennen, dass echte Menschen die Entscheidungen auf Basis ihrer Werte, Weltanschauungen und persönlichen Rachegelüste getroffen haben – egal, was tatsächlich den Kurs der KI-Entwicklung bestimmt hat. Sam Altmans Ideologien durchdringen das Modell nicht nur abstrakt. Es ist ein gängiges Klischee, dass Modelle die Schöpfer widerspiegeln, aber ich wollte zeigen, wie das tatsächlich passiert. Es geht um Unternehmen, Menschen sowie die wirtschaftlichen und ideologischen Umfelder, an denen sie beteiligt sind.

Da diese Technologien immer effizienter werden, wird die Kontrolle über ihre Anwendung zu einer existenziellen Frage. Wir haben gesehen, dass die Big Tech bei Trumps zweiter Amtseinführung vor ihm niederknieten, aber wir sehen auch, dass die CEOs der KI-Unternehmen zunehmend gegen die Regierung opponieren. Wem wird letztlich das letzte Wort gehören – dem Staat oder den Privatunternehmen?

Der Kampf darüber, wer die Entscheidungen treffen wird, ist im Gange. Ich sehe die Beziehung zwischen Washington und dem Silicon Valley als eine bequeme Allianz, aber eine sehr gespannte. Sie vertreten zwei unterschiedliche imperiale Modelle, beide mit eigenen imperialen Plänen. Beide versuchen, sich auszubreiten, und wollen buchstäblich mehr Gebiete von anderen Ländern übernehmen, aber die Trump-Regierung sieht die KI-Unternehmen als Werkzeuge ihrer imperialen Bestrebungen. Gleichzeitig betrachtet das Silicon Valley die Trump-Regierung als Werkzeug für ihre eigenen imperialen Ambitionen, aber sie sind in Wirklichkeit nicht auf einer Wellenlänge, weil beide wollen, dass sie die oberste Autorität sind, die an der Spitze steht.

Es gab Momente, in denen die amerikanische Regierung bewies, dass sie noch immer der Herr ist – etwa, als Trump und Musk aneinandergerieten, wurde Musk entlassen. Doch als das Verteidigungsministerium mit Anthropic in Konflikt geriet, zeigte das Unternehmen, dass es in diesem Fall die stärkere Partei ist: Verteidigungsminister Pete Hegseth schlug die „nukleare Option“ vor, indem er drohte, das Unternehmen als Versorgungskettenrisiko einzustufen – als letztes Mittel, um Anthropic zur Unterwerfung zu zwingen –, doch das Unternehmen weigerte sich weiterhin, nachzugeben. Peinlicherweise wurde das Pentagon tief in eine private Akteurin verwickelt, die nicht bereit ist, nach den Bedingungen der Regierung zu kooperieren, und die Regierung kann nichts dagegen tun.

Beide imperialen Akteure müssen zur Rechenschaft gezogen werden, und diese Verantwortlichkeit wird nicht von ihnen selbst kommen; sie muss von der Bevölkerung ausgehen. Von unten nach oben aufbauende, aufkommende Organisationen, die auf der ganzen Welt sichtbar werden, auch in den USA. So sehr diese bequeme Allianz auch unüberwindbar erscheint, ist sie doch äußerst fragil, und es gibt Möglichkeiten, ihren Zusammenbruch zu beschleunigen, indem wir Druck auf ihre Schwachstellen ausüben.

Anstatt KI als einen globalen Wettkampf zwischen Gut und Böse zu sehen, sollten wir vielmehr darüber nachdenken, welche Zukunft wir für die Gesellschaft anstreben.

Der aktuelle Stand der KI-Entwicklung wirkt wie ein Wettlauf in Richtung Tiefpunkt zwischen konkurrierenden Unternehmen und globalen Supermächten. Welche Rolle spielte die geopolitische Konkurrenz mit China dabei, dass KI in die jetzige schwierige Lage geraten ist?

China ist eine Karte, die das Silicon Valley bereits seit einem Jahrzehnt spielt, praktisch seitdem es China ausweist. Wenn man jedoch die früheren Ergebnisse dieser Argumentation betrachtet, sieht man, dass in Wirklichkeit immer das Gegenteil von den Prognosen des Silicon Valley passiert ist.

Man behauptete, dass die mangelnde Regulierung der Silicon-Valley-Unternehmen – und Chinas Exportbeschränkungen – dazu führen würden, dass die amerikanische Technologie weltweit dominieren würde. Doch TikTok ist die beliebteste soziale Plattform, und chinesische Open-Source-KI-Modelle werden weltweit immer populärer, auch in den USA. Es wurde auch versprochen, dass die Dominanz des Silicon Valley eine liberale Wirkung auf die Welt haben würde, doch das ist nicht eingetreten; im Gegenteil, ihre Wirkung war tief illiberal. Es gab eine enorme Erosion demokratischer Institutionen und eine beschleunigte Rückentwicklung der Demokratie, was durch Plattformen aus dem Silicon Valley und KI-Technologien begünstigt wurde.

Anstatt KI als einen globalen Wettkampf zwischen Gut und Böse zu sehen, sollten wir vielmehr darüber nachdenken, welche Zukunft wir für die Gesellschaft anstreben, welche KI-Technologien diese Zukunft unterstützen würden und welche Ressourcen wir für deren Umsetzung benötigen. Wir sollten nicht im Wettbewerb des Silicon Valley stehen, sondern in den Vorstellungen und Werten, die wir bewahren wollen. Und ich denke, Europa hat hier die Chance, der Welt einen dritten Weg zu zeigen, der sich von den USA und China unterscheidet und neue Regeln setzt.

Die Europäische Kommission hat kürzlich ein Paket zur technologischen Souveränität verabschiedet, das Teil der Bemühungen ist, Europas eigenen technologischen Weg zu gehen. Wie formulieren wir dieses Zukunftsbild, ohne eine Überwachungs- und oligarchische Geschäftsmodell-Variante Europas zu schaffen?

Der Leitstern, dem Europa folgen muss, ist nicht die Souveränität um der Souveränität willen, sondern das Ziel, diese Souveränität zu erreichen. Europa – oder zumindest ein großer Teil davon – ist die letzte Bastion der Demokratie in der Welt. Es fördert Menschenrechte und Freiheiten und braucht technologische Souveränität, um diese Werte voranzutreiben. Solange es noch stark von Systemen abhängig bleibt, die auf äußerst autoritäre Weise entwickelt werden und darauf abzielen, europäische Gesellschaften zu untergraben, kann es seine Werte nicht bewahren.

Der Begriff der Souveränität neigt dazu, verschwommen zu werden, wenn wir ihn nur als Selbstzweck interpretieren. Er muss ein Werkzeug sein, um ein Ziel zu erreichen.

Aus welchen Koalitionen, Interessengruppen oder Konfliktfeldern sollten wir ausgehen, um dieses alternative Zukunftsbild aufzubauen?

Zunächst einmal müssen wir KI-Steuerung in einem weiteren Sinne verstehen. Zum Beispiel gehören die Stärkung der Arbeitnehmerrechte und der Schutz der Zivilgesellschaft ebenfalls zur KI-Steuerung. Studierende, Lehrkräfte und Gesundheitsfachkräfte sollten am Tisch sitzen, um bei der Gestaltung und Hinterfragung der Entwicklung und Anwendung von KI in der Gesellschaft mitzuwirken. Bildung ist entscheidend, sowohl als Sektor und Koalition, die wir einbeziehen müssen, als auch für die gesellschaftliche Aufklärung über KI.

Ein weiterer wichtiger Punkt ist die Finanzierung von KI-Forschern und Unternehmern, um die technischen Details ihrer Entwicklungen und die Anwendungsweisen zu erforschen. Aber wir können ihnen nicht einfach Geld geben, ohne der restlichen Gesellschaft eine Stimme zu geben; sonst wiederholen wir nur die Probleme, mit denen wir in den USA konfrontiert sind, wo letztlich Technokraten oder technokonservative Kräfte Entscheidungen treffen.

Wir starten nicht bei null. Es wurde bereits viel Arbeit geleistet, um gemeinsame Ziele zu definieren, auf die sich die Gesellschaft zubewegen sollte. Zum Beispiel die nachhaltigen Entwicklungsziele. Das kann ein Ausgangspunkt sein, um zu überlegen, wie Innovationen im Bereich KI finanziert werden können.

Die gegenwärtigen Narrative rund um KI-Technologien sind äußerst polarisiert. Auf der einen Seite stehen jene, die sagen, dass in diesen Technologien nichts wirklich Neues steckt und dass die Blase bald platzt. Auf der anderen Seite stehen jene, die glauben, dass KI unser Leben verändern, Lieferketten revolutionieren und uns alle überflüssig machen wird. Was halten Sie von diesen unterschiedlichen Positionen?

Es stimmt, dass viele die Vorteile überschätzen, ohne die Kosten der Technologien zu berücksichtigen, oder die Kosten zu hoch ansetzen, ohne die Vorteile zu sehen. Aber ich denke, es gibt eine große Anzahl von Menschen, die zustimmen, dass wir die Vorteile der KI nutzen wollen, aber nicht auf Kosten unseres würdevollen Lebensstils – zu dem eine gute Gesundheitsversorgung, wirtschaftliche Chancen, eine gesunde Umwelt und ein blühender Planet gehören. Das ist der ausgewogenste Ansatz.

KI (künstliche Intelligenz) ist ein Sammelbegriff für viele verschiedene Technologien, daher müssen wir sorgfältig überlegen, in welche wir investieren und welche neuen Technologien wir entwickeln wollen, da jede Kompromisse mit sich bringt; einige passen zu der Zukunft, die wir aufbauen wollen, andere nicht. Wir müssen klug wählen.

KI (künstliche Intelligenz) bezeichnet eine Vielzahl unterschiedlicher Technologien, daher ist es wichtig, genau zu überlegen, in welche wir investieren und welche neuen Technologien wir entwickeln möchten.

Wie ist Ihre eigene Haltung zu den bestehenden KI-Werkzeugen?

Aus drei Hauptgründen verwende ich sie nicht. Erstens, wegen meiner ethischen Haltung. Zweitens, wegen meines Datenschutzstandpunkts: Diese Unternehmen sind letztlich die effektivsten Überwachungstechnologien, die je erfunden wurden. Drittens, diese Werkzeuge sind für die spezielle Kompetenz, die ich für meine Arbeit brauche, nicht wirklich nützlich.

Ich sage nicht, dass das für jeden gilt. Ich habe mit vielen Menschen gesprochen, die eindeutig von diesen Werkzeugen profitieren, oder deren Beruf es erfordert, sie zu verwenden. Die Lösung für das aktuelle Problem ist eher, das zu tun, was wir in anderen Branchen, etwa in der Modeindustrie, auch getan haben. Als wir erkannt haben, dass ein Großteil unserer Kleidung unter schrecklichen Bedingungen hergestellt wird, haben wir nicht einfach nur die Kleidung weggeworfen. Es brauchte eine Vielzahl von Verbraucher- und Arbeitnehmerorganisationen, staatlichen Regulierungen und öffentlicher Resonanz, um die Branche in den Griff zu bekommen. Natürlich ist die Modebranche noch lange nicht perfekt, aber es gibt zumindest Alternativen, und Verbraucher können mit ihrem Geld abstimmen, welche Lieferketten und Unternehmenspraktiken sie unterstützen.

Dasselbe müssen wir auch bei KI tun. Derzeit gibt es für Nutzer kaum Alternativen, und um das zu ändern, braucht es mehr Arbeitnehmerorganisationen und größeren öffentlichen Widerstand. Wer auf den Einsatz dieser Technologien verzichten kann, sollte sie unbedingt boykottieren, und die Regierungen müssen eingreifen, um neue Märkte für Alternativen zu schaffen.

Verbraucher haben einen wichtigen Einfluss, aber das ist nicht alles. Als Menschen, Einzelne, in Rollen als Arbeitnehmer, Lehrende und Bürger müssen wir darüber nachdenken, wie wir diese Rollen nutzen können, um die Entwicklung von KI zu verbessern.