EU: verbod op meest schadelijke gebruik van kunstmatige intelligentie stap dichterbij
Het Europees Parlement heeft voor een wet gestemd die strengere eisen stelt aan het gebruik van kunstmatige intelligentie. Met de wet wil de Europese Unie het gebruik van Artificial Intelligence (AI) reguleren en de risico’s voor mensenrechten beperken.
‘Het Europees Parlement geeft een sterk signaal af dat mensenrechten voorop moeten staan in deze baanbrekende wetgeving, door te stemmen voor een verbod op verschillende op AI gebaseerde praktijken die onverenigbaar zijn met mensenrechten’, zegt Mher Hakobyan van Amnesty International.
Belangrijke stap voorwaarts
Het verbieden van realtime biometrische identificatiesystemen op afstand, zoals gezichtsherkenning door opsporingsdiensten, is een belangrijke stap voorwaarts. Hoewel het wetsvoorstel massasurveillance achteraf niet verbiedt, beperkt het wel het gebruik ervan tot rechtshandhaving en binnen strikte wettelijke grenzen. Het wetsontwerp verbiedt ook verschillende schadelijke toepassingen van AI-systemen die gemarginaliseerde gemeenschappen discrimineren. Het gaat dan om technologieën die beweren misdrijven te ‘voorspellen’, social scoring-systemen die ervoor zorgen dat mensen de toegang tot essentiële openbare en particuliere diensten wordt ontnomen, en technologieën voor emotieherkenning die door wetshandhavers en grensbewaking worden gebruikt om verdachte personen te ‘identificeren’.
Mogelijkheid wet te omzeilen
Het wetsontwerp zou de export uit de EU van AI-systemen die als een onaanvaardbaar risico voor de mensenrechten worden beschouwd, kunnen beperken. Het zou echter ook leveranciers van AI-systemen in staat stellen de wet te omzeilen als hun risicovolle technologieën uitsluitend voor export worden ontwikkeld. Daardoor kan de EU mogelijk medeplichtig worden aan mensenrechtenschendingen buiten haar grenzen. De AI-verordening verbiedt evenmin discriminerende profileringssystemen die mensen die op de vlucht zijn markeren als een ‘risico’. Dat geldt ook voor systemen die worden gebruikt om migratie te verbieden, in te perken en te voorkomen, ondanks oproepen van Amnesty International en van het maatschappelijk middenveld om deze technologieën te verbieden.
Hoog risico
AI-systemen moeten worden onderworpen aan strenge eisen. Het is zorgwekkend dat het wetsvoorstel leveranciers van AI-systemen die worden gebruikt voor wetshandhaving, het in goede banen leiden van migratie, sociale zekerheid en andere gebieden waar veel op het spel staat, in staat stelt de AI-wet te omzeilen. Het geeft de leveranciers van AI-systemen ook de vrijheid om te beslissen of hun systemen een hoog risico vormen voor de mensenrechten. De AI-verordening zou daarmee eerder een ‘richtlijn’ kunnen worden voor risicovolle AI in plaats van een effectieve regelgeving.
Amnesty’s oproep
Amnesty International roept de EU op om haar verplichtingen onder internationaal recht na te komen. De EU moet zorgen voor transparantie en voor de verantwoordingsplicht over de manier waarop AI-systemen worden gebruikt en geëxporteerd. Ook de gevolgen voor de mensenrechten moeten in kaart gebracht worden. Daarnaast moeten mensen mondiger gemaakt worden door hun gelijke toegang te bieden tot technologieën en het recht op verhaal halen en genoegdoening te bieden in het geval zij schade hebben geleden door de AI-systemen.
Achtergrond
De Europese Commissie heeft op 21 april 2021 wetgeving voorgesteld voor het gebruik van kunstmatige intelligentie. De Raad van de EU die de nationale regeringen van de EU vertegenwoordigt, heeft zijn standpunt al in december 2022 vastgesteld. Het Europees Parlement streeft ernaar zijn standpunt in juni dit jaar af te ronden, waarna de drie instellingen het eens zullen moeten worden over een gemeenschappelijke tekst voor de verordening.
Amnesty International heeft samen met een coalitie van maatschappelijke organisaties onder leiding van het European Digital Rights Network (EDRi) opgeroepen tot EU-regulering van kunstmatige-intelligentietechnologieën en -praktijken die in lijn is met de mensenrechten.
