Discriminerende risicoprofielen

Amnesty wil dat het kabinet meer doet om het gebruik van discriminerende risicoprofielen door de overheid tegen te gaan. Het gebruik van etniciteit en nationaliteit als indicator in (geautomatiseerde) risicoprofielen en selectiebeslissingen die worden gebruikt in het kader van wetshandhaving komt neer op etnisch profileren en dat is in strijd met het discriminatieverbod.

Er zijn in de afgelopen jaren meerdere onthullingen geweest over het gebruik van discriminerende risicoprofielen door de Nederlandse overheid en uitvoeringsorganisaties. Risicoprofielen worden door overheden gebruikt om potentiële normovertreders te zoeken of te identificeren. Dit doen overheden op basis van risico-indicatoren waarvan ze denken dat ze samenhangen met een hoger risico op overtreding van een norm, regel of wet. Soms wordt in risicoprofielen etniciteit of nationaliteit als indicator gebruikt. Mensen met een bepaalde (vermeende) afkomst worden dan sneller als een risicogeval gezien. Het bekendste voorbeeld is het risicomodel van de Belastingdienst waarbij mensen met een migratieachtergrond extra werden gecontroleerd op fraude, wat mede leidde tot het Toeslagenschandaal. Amnesty International publiceerde hierover in 2021 het rapport “Xenofobe Machines” waarin zij concludeerde dat de Belastingdienst zich schuldig heeft gemaakt aan onder meer etnisch profileren.

In 2019 bleek dat de politie in Roermond een discriminerend algoritme gebruikte voor risicoprofilering, waarover Amnesty het rapport “We sense trouble” publiceerde. Maar liefst 158 gemeenten gebruikten tot 2020 een ‘fraudescorekaart’ waarmee waarschijnlijk werd gediscrimineerd op afkomst. Enkele gemeenten bleven dit risicoprofiel ondanks waarschuwingen gebruiken. Vorig jaar onthulde het journalistieke platform Argos dat de IND afkomst registreerde om te kunnen verwerken in een risicoprofiel. Ook in risicoprofielen die gemeenten gebruiken voor het opsporen van buitenlands vermogen of inkomen van bijstandsontvangers worden afkomstgerelateerde criteria gebruikt.

Baanbrekende uitspraak van het gerechtshof

Op 14 februari 2023 heeft het gerechtshof een baanbrekende uitspraak gedaan in de zaak van twee burgers, Amnesty International, Controle Alt Delete, RADAR en NJCM-PILP tegen de staat over etnisch profileren door de Koninklijke Marechaussee (KMar). Het gerechtshof oordeelt dat het gebruik van (vermeende) etniciteit in de risicoprofielen en selectiebeslissingen van de KMar een vorm van rassendiscriminatie is en heeft deze werkwijze verboden. Deze uitspraak is een belangrijke stap in het uitbannen van discriminatie als gevolg van risicoprofielen die door de KMar, politie en andere wetshandhavers worden gebruikt.

Amnesty wil dat het kabinet nu maatregelen neemt in lijn met deze uitspraak, zodat het gebruik van afkomst in risicoprofielen verleden tijd is. Het kabinet zegt dat er in Nederland geen plek mag zijn voor institutioneel racisme en wil zich inzetten tegen etnisch profileren. Nationaal Coördinator tegen Discriminatie en Racisme (NCDR) Rabin Baldewsingh riep in juni 2022 de overheid op om te stoppen met discriminerende risicomodellen en hiervoor ‘waarborgen en garanties’ in te stellen. Maar toch wil het kabinet geen concrete stappen zetten om een einde maken aan discriminerende risicoprofielen.

Wat wil Amnesty?

In juni 2022 hebben we het kabinet opgeroepen om een verbod in te stellen op het gebruik van etniciteit en nationaliteit als indicator in risicoprofielen die worden gebruikt voor het opsporen van potentiële wets- of regelovertreding. Dagmar Oudshoorn, directeur Amnesty International Nederland, zei toen: “Het kabinet zegt etnisch profileren te willen bestrijden, maar laat tegelijkertijd de deur open voor het gebruik van etniciteit of nationaliteit in risicoprofielen. De praktijk laat echter zien dat het hoog tijd is dat het kabinet een duidelijke norm stelt: discriminerende risicoprofielen zijn onacceptabel”.

Omdat er momenteel veel onduidelijkheid is over het gebruik van discriminerende risicoprofielen, zien we dat overheden en uitvoeringsorganisaties ruimte blijven zoeken – én krijgen – om te kunnen selecteren op etniciteit of nationaliteit bij controles of handhaving. Het gebruik van etniciteit of nationaliteit als indicator in risicoprofielen komt neer op etnisch profileren. Daarom moet het kabinet dit verbieden. Het maakt daarbij niet uit dat afkomst slechts één van de indicatoren is. Door afkomst als indicator in een risicomodel op te nemen, worden twee verder vergelijkbare burgers verschillend behandeld vanwege hun afkomst. Dit is directe discriminatie.

Wat doet Amnesty?

• We zetten ons in voor een (wettelijk) verbod op het gebruik van etniciteit, nationaliteit en afkomstgerelateerde kenmerken als indicator in risicoprofielen die worden gebruikt voor het opsporen van potentiële wet- en regelovertreders. Lees hier meer over ons standpunt.
• In 2024 publiceert Amnesty het rapport ‘Etnisch profileren is overheidsbreed probleem’ met aanbevelingen voor betere regulering van en toezicht op het gebruik van (geautomatiseerde) risicoprofielen door overheidsorganisaties.
• Naar aanleiding van onze oproep sprak Amnesty in oktober 2022 met minister Bruins-Slot van BZK. In januari 2023 werd onze oproep besproken in het commissiedebat van de Tweede Kamer over discriminatie, racisme en mensenrechten.
• Samen met een coalitie van twee ‘niet-witte’ burgers, Controle Alt Delete, RADAR, PILP-NJCM voerde Amnesty een rechtszaak tegen de Koninklijke Marechaussee vanwege etnisch profileren.
• Amnesty doet doorlopend onderzoek naar discriminerende risicoprofielen in de context van fraudeopsporing in de sociale zekerheid en proactief politieoptreden.
• We geven input op wetgeving en beleidsplannen die relevant zijn voor de regulering van risicoprofielen, waaronder bijvoorbeeld de AI-verordening en de Wet gegevensverwerking voor samenwerkingsverbanden.
• We volgen het algoritmebeleid op de voet. Eind 2023 concluderen we dat de door de regering genomen maatregelen mensen onvoldoende beschermen tegen discriminerende risicoprofielen. Lees hier meer .

Wat kun jij doen?

• Vermoed je dat je slachtoffer bent geworden van discriminatie door de overheid? Dien een klacht in. Dat kan bij de overheidsinstantie zelf. Bijvoorbeeld via het klachtformulier van de politie.
• Melden kan ook bij het College voor de Rechten van de Mens, bij RADAR of bij één van de antidiscriminatiebureaus in Nederland. Deze bureaus kunnen je adviseren of je helpen met bemiddeling of een procedure. Zie discriminatie.nl. Je kunt deze bureaus bereiken via: 0800-0880 (gratis).
• Soms is het beter om aangifte te doen. Zoek daarvoor advies van een advocaat.
• Denk je dat een risicoprofiel of algoritme een rol heeft gespeeld? Of heb je informatie over discriminerende risicoprofielen die in gebruik zijn? Meld het bij ons.