Müssen wir uns vor künstlicher Intelligenz fürchten?
Die als bevorstehende große technologische Revolution angekündigte Künstliche Intelligenz (KI) und ihre Anwendung in immer größeren Bereichen weckt sowohl Besorgnis als auch Begeisterung. Den Verfechtern von KI, die davon überzeugt sind, dass die KI dabei helfen wird, die meisten Probleme der Menschheit zu lösen (und nebenbei ein paar neue Milliardäre zu schaffen), halten viele Beobachter die noch unbekannten Risiken entgegen, die von Maschinen ausgehen, die unendlich viel schneller denken und handeln können als der Mensch.
Doch wie Nello Cristianini, Professor für künstliche Intelligenz an der Universität Bath (Großbritannien) in The Conversation unterstreicht, „keines der oben genannten Szenarien“ – ob sie nun von Experten oder Industrieunternehmern stammen – „scheint einen spezifischen Weg zum Aussterben der Menschheit zu zeichnen. Das bedeutet, dass wir uns mit einem allgemeinen Alarmgefühl konfrontiert sehen, ohne mögliche Maßnahmen, die wir ergreifen können“. Eine Position, die Christopher Wylie, der Whistleblower hinter dem Cambridge-Analytica-Skandal, in dem diese Woche von uns veröffentlichten Artikel teilt.
Auf derselben Wellenlänge liegt in einem Artikel in New Scientist (im Abonnement), die Ethikforscherin am Alan Turing Institute Mhairi Aitken, die sagt, dass diese apokalyptischen Warnungen „Angst machen, weil sie die Debatte über die Folgen der künstlichen Intelligenz und ihre verantwortungsvolle Entwicklung entscheidend beeinflussen“. Die Idee ist tief in der kollektiven Vorstellungswelt verankert und hat sich „nun auch in die politischen und regulatorischen Sphären eingeschlichen. Und das ist besorgniserregend“, fügt sie hinzu, „denn es sind praktisch keine Beweise vorhanden, die die alarmistischen Thesen stützen, und sie halten einer gründlichen Prüfung nicht stand“. Der Zweck dieser Warnungen sei, so Aitken, kein anderer, als „die Forderungen nach Transparenz umzuleiten und die Debatte über die Verantwortung der Entwickler auszulöschen“.
Und Europa in all dem? Ausnahmsweise hat sich die Europäische Union recht schnell mit dem Thema KI befasst und eine Regelung ausgearbeitet – das KI-Gesetz –, das 2024 in Kraft treten soll und „die Risikostufen vorsieht, bei denen die Zertifizierungsverfahren zu Lasten der Hersteller mit zunehmendem Risiko strenger werden“, erklärt Francesca Lagioia, Forscherin an den Abteilungen für Recht und Ingenieurwesen der Universität Bologna und am Europäischen Hochschulinstitut, in einem Interview mit Annamaria Testa für Internazionale. „Risikoklassen sollen die Zuverlässigkeits- und Sicherheitsniveaus eines Systems durch vorherige Kontrollen und Konformitäts- und Zertifizierungsverfahren sicherstellen, d.h. bevor diese Technologien vermarktet und verwendet werden und bevor Schaden entsteht“, fügt sie hinzu, warnt aber gleichzeitig vor der größten Einschränkung dieses Systems: „Die Hersteller werden die Einhaltung der Standards für Systeme mit hohem Risiko selbst beurteilen können“.
Francesca Lagioia stellt fest: „Theoretisch verbietet das KI-Gesetz die Herstellung oder den Verkauf von manipulativen (auf die Irreführung des menschlichen Verhaltens ausgerichteten) KI-Systemen. Es ist jedoch unwahrscheinlich, dass die Hersteller diesen Zweck angeben. Und um das Verbot zu umgehen, reicht es aus, generische KI-Systeme zu verkaufen, die dann von den Nutzern umkonfiguriert werden können“.
Ebenfalls in Internazionale befragte Francesca Spinelli Caterina Rodelli, Analystin bei Access now, einer Organisation für digitale Bürgerrechte, zu den Lücken des KI-Gesetzes. Rodelli betont, dass die Beschwerdemechanismen in Bezug auf Hochrisikosysteme nicht vorsehen, dass gemeinnützige Organisationen im Namen einer Einzelperson Beschwerde einlegen können, da „die Behörden befürchten, dass sie mit den von NGOs eingeleiteten Klagen überfordert sein könnten“. Der aktuelle Text, so fügt sie hinzu, „schließt auch Systeme zur Vorhersage von Migrationsbewegungen aus der Hochrisikokategorie aus, die sowohl bei Regierungen, die entschlossen sind, die Ankunft von Asylsuchenden und ‚irregulären Migranten‘ zu blockieren, als auch bei Organisationen, die im Bereich der Aufnahme tätig sind, sehr beliebt sind“.
Rund 60 Menschenrechtsorganisationen haben ihrerseits auf der Plattform Liberties einen offenen Brief an den europäischen Gesetzgeber veröffentlicht und fordern, dass das KI-Gesetz „wirksame Maßnahmen zum Schutz der eigentlichen Grundlagen, auf denen [die ]Union beruht, vorsieht. Der Missbrauch von KI-Systemen, einschließlich ihres undurchsichtigen und nicht rechenschaftspflichtigen Einsatzes durch öffentliche Behörden“, so argumentieren sie, „stellt eine ernsthafte Bedrohung für die Rechtsstaatlichkeit und die Demokratie dar“.
Zum selben Thema
Generative künstliche Intelligenz hält allmählich Einzug in das Leben von Kindern
Nathalie Koubayová | AlgorithmWatch | 25. September | EN
Amazon entwickelt für sein Gerät Alexa Echo eine Funktion, mit der man mithilfe des internen Sprachmodells (LLM) Gutenachtgeschichten für Kinder erstellen kann. Das System generiert personalisierte Geschichten auf der Grundlage der Beiträge der Kinder und von Funktionen wie der Erkennung von Personen über die Kamera des Geräts. Diese Initiative zielt darauf ab, mit anderen Sprachassistentenanbietern wie Google und Apple zu konkurrieren. Amazons Vorstoß im Bereich der kinderfreundlichen KI ist jedoch auf Datenschutzprobleme gestoßen. Das Unternehmen musste bereits 25 Millionen US-Dollar zahlen, weil es illegal Daten von Kindern ohne die Zustimmung ihrer Eltern gesammelt hatte. Die Europäische Union und einige US-Bundesstaaten arbeiten derzeit an strengeren Regeln für KI, die sich an Kinder richtet.
KI ist eine Bedrohung für die Freiheit des Internets
Leonhard Pitz | Netzpolitik | 5. Oktober | DE
Der Bericht Freedom of the Net 2023 der NGO Freedom House enthüllt, dass KI „die nächste Gefahr für die Freiheit des Internets“ ist. KI wird in vielen Ländern zur Verstärkung von Desinformation eingesetzt und macht die Zensur ausgefeilter. Der Einsatz von KI durch die Behörden in Kombination mit der Selbstmoderation durch die Plattformen führt zu einem Rückgang der Freiheit im Internet. Der Bericht unterstreicht die Notwendigkeit einer menschenrechtsbasierten Regulierung, von Transparenz und einer unabhängigen Aufsicht in Bezug auf KI.
Weitere ausgewählte Artikel
Thierry Breton in der Arena von Elon Musk
Markus Reuter | Netzpolitik | 11. Oktober | DE
Der EU-Kommissar für Binnenmarkt und Dienstleistungen Thierry Breton hat einen Brief an den Chef des sozialen Netzwerks X (ehemals Twitter) Elon Musk von seinem Konto auf dem konkurrierenden (und offenen) sozialen Netzwerk Mastodon geschickt. Breton geht auf die Desinformationen, die nach den Angriffen der Hamas auf Israel auf X verbreitet werden, ein. Musk sollte die illegalen Inhalte entfernen und innerhalb von 24 Stunden reagieren, wie es der Digital Services Act vorschreibt. Der Zweck des Briefes macht zwar durchaus Sinn, stellt Markus Reuter fest, „Doch was wir hier sehen, ist die Vershowkampfung von Politik: Die Rechtsdurchsetzung der Europäischen Union als öffentlicher Schlagabtausch zweier Männer im emotionalen Boxring der sozialen Medien“.
Das EU-Beitrittsmodell mit einem „festen Menü“ scheitert. Es ist an der Zeit für einen „à la carte“-Ansatz
Alberto Alemanno | The Guardian | 10. Oktober | EN
Der potenzielle Beitritt neuer Staaten, insbesondere der Ukraine, „bietet eine einmalige Gelegenheit, die Union in einer bedrohlichen neuen Weltordnung strategisch unabhängig zu machen“, meint der Professor für Europarecht an der französischen Wirtschaftshochschule HEC (und Mitglied des Beratungsausschusses von Voxeurop) und zwingt dazu, die Governance der EU zu überdenken. Die beiden Initiativen, eine des Europäischen Parlaments und die andere einer deutsch-französischen Gruppe, zur Reform der EU-Strukturen, einschließlich der Möglichkeit eines Systems mit mehreren Geschwindigkeiten, könnten die Integration fördern und die Fähigkeit der EU, globale Herausforderungen zu bewältigen, verbessern.
Übersetzung Angela Eumann
