Toeslagenschandaal is mensenrechtenschending, zegt Amnesty International
Het toeslagenschandaal in Nederland is een schending van de mensenrechten met een groot risico op herhaling. Ook in andere landen.
Dat staat in het vandaag uitgekomen rapport ‘Xenophobic machines – Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal’.
Het is de eerst keer dat er een mensenrechtenanalyse is gedaan van de algoritmes van het toeslagenschandaal. Het rapport focust op een klein subonderdeel van het toeslagenschandaal. De conclusie van het onderzoek is dat de algoritmes die de Belastingdienst gebruikte voor controle van foutieve aanvragen met kinderopvangtoeslag en fraude tot etnisch profileren hebben geleid. Etnisch profileren is een vorm van discriminatie en daarom in strijd met de mensenrechten.
Daarnaast is er sprake van discriminatie op basis van sociale klasse, omdat mensen uit lagere sociale klassen extra hard zijn geraakt. De conclusies van het onderzoek van Amnesty International brengen een verdieping aan op eerdere onderzoeken, zoals dat van de Autoriteit Persoonsgegevens (AP).
Slachtoffers geven al jaren aan dat discriminatie bij het toeslagenschandaal breder is dan de overheid erkent.
Discriminatie op grond van etniciteit
Organisaties die zich bezighouden met sociale voorzieningen automatiseren hun werkprocessen hoe langer hoe meer, met onder andere als doel om fraude op te sporen. Nederland is wereldwijd een van de koplopers op dit gebied.
Bij het controleren van de aanvragen voor kinderopvangtoeslag op juistheid en fraude, maakte de Belastingdienst gebruik van een risico-model. Dit model gebruikte meerdere risicofactoren, waaronder het niet hebben van de Nederlandse nationaliteit. Mensen zonder de Nederlandse nationaliteit hadden uiteindelijk een grotere kans om (onterecht) als fraudeur te worden bestempeld. De aanname dat bepaalde bevolkingsgroepen eerder geneigd zijn om fraude te plegen, wijst op bestaande vooroordelen en ongelijke behandeling door de Belastingdienst.
Herhaling ligt op de loer
De Nederlandse overheid geeft aan maatregelen te hebben genomen om herhaling van het toeslagenschandaal te voorkomen. Amnesty heeft deze maatregelen geanalyseerd en concludeert dat ze op alle fronten tekort schieten: zo zijn ambtenaren niet verplicht om de mensenrechtenrisico’s vooraf in kaart te brengen, is het toezicht op algoritmes ondermaats, en mogen overheidsinstellingen het gebruik en de werking van algoritmes geheimhouden.
Reguleer algoritmes
Amnesty is niet tegen het gebruik van algoritmes. Maar de bescherming van mensenrechten bij het gebruik ervan moet beter. Daarom blijft Amnesty de komende jaren onderzoek doen en actievoeren om een einde te maken aan mensenrechtenschendingen die gerelateerd zijn aan algoritmische systemen.
Amnesty International roept regeringen wereldwijd op om een kader tot stand te brengen dat mensenrechtenschendingen voorkomt bij het gebruik van algoritmische besluitvormingssystemen, en dat monitoring- en toezichtmechanismen instelt. Ook moeten degenen die verantwoordelijk zijn voor schendingen ter verantwoording worden geroepen en slachtoffers worden gecompenseerd. In Nederland betekent dat dat de slachtoffers van discriminatie met het risicomodel ook moeten worden gecompenseerd.
Lees meer over ons werk op het gebied van technologie en mensenrechten.
