Wat is nodig om mensenrechten te beschermen?

Technologische ontwikkelingen kunnen de wereld veel goeds brengen, mits het gebruik ervan in lijn is met de mensenrechten. Lees hier Amnesty’s aanbevelingen.

Algoritmische systemen en data-analyses kunnen ingrijpende gevolgen hebben voor mensen die onderwerp worden van extra overheidscontrole, geautomatiseerde besluiten of besluiten die mensrenrechten inperken. De Nederlandse wet beschermt nog onvoldoende tegen dit soort mensenrechtenschendingen. Amnesty heeft daarom meerdere punten geformuleerd die onmisbaar zijn voor het beschermen van de mensenrechten.

De verschillende themapagina’s over technologie en mensenrechten gaan in op Amnesty’s specifieke aanbevelingen. Dit zijn sommige van onze belangrijkste aanbevelingen op dit gebied:

• Een onmiddellijk en expliciet verbod op het (indirect) gebruik van etniciteit en nationaliteit bij het gebruiken van geautomatiseerde risicoprofielen bij wetshandhaving. Lees hier meer over onze oproep aan het kabinet om discriminerende risicoprofielen tegen te gaan.
• Een bindende mensenrechtentoets moet worden uitgevoerd voordat algoritmische systemen en kunstmatige intelligentie worden aanbesteed, ontworpen, ontwikkeld en gebruikt. Ook tijdens het verdere gebruik moet regelmatig een dergelijke toets worden gedaan.
• Een algoritmetoezichthouder moet toezien op de wijze waarop algoritmische systemen en kunstmatige intelligentie alle mensenrechten, inclusief de sociaaleconomische mensenrechten, respecteert, beschermt en bevordert. De toezichthouder moet toegang hebben tot de data en de algoritmes om de systemen en uitkomsten te onderzoeken.
• Er moet transparantie zijn over de data, de algoritmes en het effect van de algoritmische systemen voor een individu.
• Zelflerende algoritmes moeten niet worden gebruikt bij (geautomatiseerde) besluitvorming wanneer dit rechtsgevolgen heeft, wanneer het individuen in hun leven treft of wanneer het een grote impact heeft op mens of maatschappij. Overheidshandelen moet controleerbaar en voorspelbaar zijn. Het gebruik van zelflerende algoritmes betekent dat het overheidshandelen minder goed gecontroleerd kan worden. Hierdoor passen deze zelflerende algoritmes niet bij de uitvoering van dit type overheidstaak.
• Het gebruik, de handel en de export van gezichtsherkenningstechnologie die in de openbare ruimte kan worden gebruikt, moet worden verboden.