EU: Europees Parlement, stem tegen schadelijke kunstmatige intelligentie technologie in nieuwe wet

Het Europees Parlement moet racistische en discriminerende profileringssystemen, die gericht zijn op migranten en andere gemarginaliseerde groepen, verbieden.

Deze week stemt de Europese Unie over de Artificial Intelligence Act (AI Act). Amnesty roept het Europees Parlement op om het gebruik van massasurveillance technologieën, zoals realtime biometrische identificatiemiddelen op afstand, te verbieden in de AI Act; een baanbrekend stuk wetgeving.

Uit onderzoek van Amnesty International blijkt dat verregaande gezichtsherkenningstechnolgie racistische en discriminerende rechtshandhaving in de hand werkt. Zo worden mensen van kleur vaker tegengehouden en onderzocht. De technologie wordt ook gebruikt om de bewegingsvrijheid van migranten en asielzoekers te beperken of zelfs af te nemen..

‘Op 11 mei 2023 werd er een aanzienlijke bescherming van de mensenrechten bereikt’, zegt Mher Hakobya van Amnesty International. ‘Het risico bestaat dat het Europees Parlement deze goede intenties weer tenietdoet en de deur openzet voor het gebruik van technologieën die direct in strijd zijn met de internationale mensenrechtenwetgeving.’

Fort Europa

In hun poging om de muren van “Fort Europa” te versterken, hebben EU-lidstaten steeds vaker hun toevlucht genomen tot het gebruik van ondoorzichtige en vijandige technologieën. Hierdoor is misbruik van migranten, vluchtelingen en asielzoekers aan de grenzen makkelijker geworden.

‘Met deze aanhoudende ongastvrije omgeving voor mensen die oorlogen en conflicten ontvluchten op zoek naar bescherming of naar een beter leven, is het van vitaal belang dat het Europees Parlement de schade van racistische AI-systemen niet wegwuift’, aldus Mher Hakobyan. ‘Wetgevers moeten racistische profilerings- en risicobeoordelingssystemen , die migranten en asielzoekers als ‘bedreigingen’ bestempelen, verbieden. Net als technologieën om grensbewegingen te voorspellen en mensen het recht op asiel te ontzeggen’.

Export technologie aan banden

Hoewel de AI-wet kan helpen bij het voorkomen en beperken van veroorzaakte schade door nieuwe technologieën in Europa, is het cruciaal dat de EU niet bijdraagt aan mensenrechtenschendingen door de export van vergaande technologieën buiten haar grondgebied.

De AI-wet moet de export van systemen die in de EU niet gebruikt mogen worden, zoals gezichtsherkenning en andere surveillancetechnologieën, verbieden.

Uit onderzoek van Amnesty International is gebleken dat camera’s van het Nederlandse bedrijf TKH Security worden gebruikt in openbare ruimten en politie-infrastructuur in bezet Oost-Jeruzalem. Met deze camera’s wordt de controle van de Israëlische regering over Palestijnen en Israëls systeem van apartheid tegen Palestijnen versterkt.

Soortgelijke onderzoeken laten zien dat bedrijven in Frankrijk, Zweden en Nederland digitale bewakingssystemen, zoals gezichtsherkenningstechnologie (FRT) en netwerkcamera’s, verkochten aan belangrijke spelers van het Chinese massasurveillance-apparaat. In sommige gevallen was de export rechtstreeks bestemd voor projecten van massasurveillance, met het risico dat het onder meer tegen Oeigoeren en andere etnische groepen wordt gebruikt in het hele land

Mensenrechten centraal

‘Het Europees Parlement heeft de plicht om de mensenrechten te handhaven. Alles wat ontbreekt aan een volledig verbod op technologieën die worden gebruikt voor massasurveillance, racistisch politiewerk en het opstellen van profielen, is een verzuim van die plicht’, stelt Mher Hakobyan.

EU-wetgevers moeten er daarnaast voor zorgen dat technologieën die binnen de EU verboden zijn, niet worden geëxporteerd om elders mensenrechten te schenden. Deze wetgeving moet de mensenrechten van alle mensen beschermen en bevorderen, niet alleen van mensen in Europa.

Achtergrond

De Europese Commissie heeft op 21 april 2021 wetgeving voorgesteld die het gebruik van kunstmatige intelligentie regelt. De Raad van de EU, bestaande uit de nationale regeringen van de EU, stelde zijn standpunt in december 2022 vast. Het Europees Parlement streeft naar een laatste stemming om op 14 juni een officieel standpunt te bepalen. Hierna moet overeenstemming worden bereiken over een gemeenschappelijke tekst voor de verordening.

Amnesty International heeft, als onderdeel van een coalitie van maatschappelijke organisaties onder leiding van het European Digital Rights Network (EDRi), opgeroepen tot EU-regelgeving voor kunstmatige intelligentie die mensenrechten beschermt en bevordert.