Moeten we bang zijn voor kunstmatige intelligentie?
Kunstmatige intelligentie (AI), aangekondigd als een op handen zijnde technologische revolutie, wordt op steeds meer gebieden van het dagelijks leven toegepast en wekt zowel ongerustheid als enthousiasme op. Voorstanders zijn ervan overtuigd dat AI veel van de problemen van de mensheid zal helpen oplossen (en een paar nieuwe miljardairs zal opleveren). Tegenstanders wijzen op de nog onbekende risico’s van machines die oneindig veel sneller kunnen denken en handelen dan mensen.
Echter, zoals Nello Cristianini, hoogleraar kunstmatige intelligentie aan de Universiteit van Bath (VK), opmerkt in The Conversation “Geen van de bovenstaande scenario’s” – of ze nu bedacht zijn door experts of ondernemers uit de industrie – “lijkt een specifiek pad uit te stippelen naar het uitsterven van de mens. Dit betekent dat we achterblijven met een algemeen gevoel van alarm, maar zonder mogelijke actie om te ondernemen”. Dit standpunt wordt gedeeld door Christopher Wylie, de klokkenluider achter het Cambridge Analytica-schandaal, in het artikel dat we deze week publiceren.
In een artikel (voor abonnees) in New Scientist neemt ethisch onderzoeker Mhairi Aitken van het Alan Turing Institute een vergelijkbare positie in. Volgens haar zijn deze apocalyptische waarschuwingen “beangstigend omdat ze een beslissend verschil maken in het debat over de gevolgen van kunstmatige intelligentie”. Dit denken, dat diep geworteld is in de collectieve verbeelding, “is nu ook doorgedrongen tot de politiek en de regelgevende instanties. Dat is verontrustend, zegt ze, “omdat het bewijs om deze alarmistische theorieën te ondersteunen praktisch niet bestaat en geen toetsing doorstaat”. Volgens Aitken is het doel van deze waarschuwingen “om de roep om transparantie af te buigen en het debat over de verantwoordelijkheden van ontwikkelaars uit te wissen”.
En waar staat Europa in dit alles? Voor één keer heeft de Europese Unie het probleem snel aangepakt door een verordening op te stellen – de AI-wet . De richtlijn moet in 2024 van kracht worden en “voorziet in risicoklassen waarvoor de door de producent uit te voeren certificeringsprocedures strenger zijn naarmate het risico toeneemt”, legt Francesca Lagioia, onderzoeker bij de juridische en technische afdelingen van de Europese Commissie, uit in een interview met Internazionale’ Annamaria Testa. “Risicoklassen moeten de betrouwbaarheid en het veiligheidsniveau van een systeem garanderen door middel van voorafgaande controles en nalevings- en certificeringsprocedures, d.w.z. voordat deze technologieën op de markt worden gebracht en worden gebruikt en voordat er schade optreedt”. Ze waarschuwt voor de belangrijkste beperking van dit systeem: “producenten zullen zelf kunnen beoordelen of ze voldoen aan de normen voor systemen met een hoog risico”.
Ook in Internazionale interviewt Francesca Spinelli Caterina Rodelli, analist bij Access now, een organisatie voor digitale vrijheden, over de tekortkomingen van de AI-wet. Rodelli wijst erop dat de beroepsmechanismen voor systemen met een hoog risico het voor organisaties van algemeen belang niet mogelijk maken om namens een individu beroep aan te tekenen, omdat “de autoriteiten vrezen dat ze zullen worden overspoeld door rechtszaken die door NGO’s worden aangespannen”. De huidige tekst, voegt ze eraan toe, “sluit ook migratievoorspellingssystemen uit van de categorie met een hoog risico, die erg populair zijn bij regeringen die vastbesloten zijn om de komst van asielzoekers en ‘irreguliere migranten’ te blokkeren, en ook bij opvangorganisaties”. Zo’n zestig mensenrechtenorganisaties hebben van hun kant een open brief over de Vrijheden waarin ze de Europese wetgevers oproepen om in de AI-wet “van de EU te eisen dat zij robuuste waarborgen inbouwt ter bescherming van het fundament waarop onze Unie staat. Het misbruik van AI-systemen, waaronder ondoorzichtige en oncontroleerbare inzet van AI-systemen door overheden, vormt een ernstige bedreiging voor de rechtsstaat en de democratie.”.
Over hetzelfde onderwerp
Generatieve kunstmatige intelligentie dringt langzaam het leven van kinderen binnen
Nathalie Koubayová | AlgorithmWatch | 25 september | NL
Amazon ontwikkelt een functie voor zijn Alexa Echo apparaat om verhaaltjes voor het slapen gaan voor kinderen te maken met behulp van zijn eigen grote taalmodel (LLM). Het systeem genereert aangepaste verhalen op basis van de input van kinderen en functies zoals karakterherkenning via de camera van het apparaat. Dit initiatief is bedoeld om te concurreren met andere spraakassistenten van techbedrijven als Google en Apple. De overstap van Amazon naar kindvriendelijke AI is echter op privacyproblemen gestuit, gezien de eerdere betrokkenheid van het bedrijf bij een schikking van 25 miljoen dollar voor het illegaal verzamelen van gegevens van kinderen zonder ouderlijke toestemming. Er wordt momenteel gewerkt aan wetgeving om AI-technologie gericht op kinderen te reguleren, met strengere regels in de Europese Unie en sommige Amerikaanse staten.
AI is een bedreiging voor internetvrijheid
Leonhard Pitz | Netzpolitik | 5 oktober | DE
Het rapport Freedom of the Net 2023 van de NGO Freedom House onthult dat AI “de volgende bedreiging is voor internetvrijheid “ . De technologie wordt in veel landen gebruikt om desinformatie te versterken en censuur geavanceerder te maken. Het gebruik van AI door overheden, gecombineerd met zelf-moderatie door platforms, leidt dus tot een afname van internetvrijheid. Het rapport benadrukt de noodzaak van regelgeving gebaseerd op mensenrechten, transparantie en onafhankelijk toezicht.
Ook het lezen waard
Thierry Breton in de arena van Elon Musk
Markus Reuter | Netzpolitik | 11 oktober | DE
De EU-commissaris voor de interne markt, Thierry Breton, heeft een brief gestuurd naar de kwikzilveren baas van sociaal netwerk X (voorheen Twitter) vanaf zijn account op Mastodon, een rivaliserend (en open) netwerk. Daarin wijst Breton op verkeerde informatie die op X werd verspreid na de Hamas-aanvallen op Israël en herinnert hij Elon Musk eraan dat de Digital Services Act vereist dat X illegale inhoud binnen 24 uur verwijdert. Hoewel het doel van de brief logisch is, merkt Markus Reuter op,“hebben we hier te maken met showpolitiek boven EU-wetgeving, een openbare uitwisseling tussen twee mannen in de emotionele boksring van sociale media“.
Het “vast menu” lidmaatschapsmodel van de EU faalt. Het is tijd voor een “à la carte”-benadering
Alberto Alemanno | The Guardian | 10 oktober | NL
Het mogelijke EU-lidmaatschap van nieuwe staten, met name Oekraïne, “biedt een niet te missen kans om de unie strategisch onafhankelijk te maken in een dreigende nieuwe wereldorde en in staat om het voortouw te nemen in de klimaatnood”, zegt deze professor Europees recht aan de HEC (en lid van de adviesraad van Voxeurop), die oproept tot een herziening van de EU-governance. Twee initiatieven, het ene van het Europees Parlement en het andere van een Frans-Duitse groep, om de EU-structuren te hervormen – met inbegrip van een mogelijke opzet met verschillende snelheden – kunnen de integratie bevorderen en de EU helpen de mondiale uitdagingen aan te gaan.
Vertaald door Harry Bowden
