Verbied gevaarlijke technologie voor gezichtsherkenning die racisme bij politie versterkt

Amnesty International is de wereldwijde campagne Ban the Scan gestart om het gebruik van gezichtsherkenningssystemen te verbieden. Het is een vorm van massasurveillance die racistisch politieoptreden versterkt en het recht op vrije meningsuiting, op vreedzame samenkomst en op privacy bedreigt. De aftrap van de campagne is vandaag in New York.

De technologie versterkt institutioneel racisme omdat het een onevenredige impact kan hebben op mensen van kleur, die toch al het slachtoffer zijn van discriminatie en schendingen van hun mensenrechten door wetshandhavers. Zwarte mensen lopen ook het grootste risico om verkeerd geïdentificeerd te worden door gezichtsherkenningssystemen.

Gemarginaliseerde gemeenschappen

‘Gezichtsherkenning kan wereldwijd door wetshandhavers ingezet worden tegen gemarginaliseerde gemeenschappen,’ zegt Matt Mahmoudi van Amnesty International. ‘Het keert onze identiteit tegen onszelf en het ondermijnt de mensenrechten. New Yorkers zouden in staat moeten zijn erop uit te gaan zonder achtervolgd te worden door gezichtsherkenning. Andere grote Amerikaanse steden hebben gezichtsherkenning al verboden, New York zou hetzelfde moeten doen.’

Risico op onterechte arrestaties van mensen van kleur

Albert Fox Cahn, uitvoerend directeur van het Surveillance Technology Oversight Project bij het Urban Justice Center: ‘Gezichtsherkenning is bevooroordeeld en staat haaks op de democratie. Jarenlang heeft de politie van New York (NYPD) gezichtsherkenning gebruikt om tienduizenden New Yorkers te volgen, waardoor New Yorkers van kleur het risico lopen op onterechte arrestaties en politiegeweld. Het verbieden van gezichtsherkenning beschermt niet alleen burgerrechten, het is een kwestie van leven en dood.’

Geen toestemming

Gezichtsherkenningstechnologie kan worden ontwikkeld door miljoenen afbeeldingen uit sociale mediaprofielen en rijbewijzen te halen, zonder toestemming van mensen die zijn afgebeeld. De software voert vervolgens een gezichtsanalyse uit van beelden die zijn vastgelegd op bewakingscamera’s of andere videobeelden om te zoeken naar mogelijke overeenkomsten met de database met de bijeen geschraapte beelden.

Black Lives Matter

Activist Dwreck Ingram werd op video vastgelegd tijdens een Black Lives Matter-protest in New York in juni 2020. Op 7 augustus 2020 probeerden tientallen politieagenten Dwrecks appartement binnen te dringen en beschuldigden hem ervan dat hij politieagenten zou hebben aangevallen. Een officier werd op camera vastgelegd buiten het huis van Dwreck met een document getiteld ‘Facial Identification Section Informational Lead Report’, waaruit bleek dat waarschijnlijk gezichtsherkenning was gebruikt. Het document bevatte het gezicht van Dwreck dat overeenkomt met een Instagram-foto van hem.

De NYPD informeerde Dwreck verkeerd over zijn rechten, dreigde zijn deur open te breken, probeerde hem zonder advocaat te ondervragen en plaatste tientallen agenten in zijn gang, bij zijn brandtrap en op tactische posities in en rond nabijgelegen gebouwen. De politie vertrok pas nadat Dwreck de gebeurtenissen live had gestreamd, een grote menigte demonstranten zich had verzameld en de media vragen begonnen te stellen.

‘Activisten zijn in het bijzonder het mikpunt van deze technologie vanwege waar we tegen protesteren en omdat we proberen een systeem af te breken waar de politie deel van uitmaakt,’ zegt Dwreck Ingram.

Amnesty’s oproep

Amnesty International roept op tot een totaalverbod van het gebruik, de ontwikkeling, productie en verkoop van gezichtsherkenningstechnologie voor gebruik voor massasurveillance door de politie en regeringsinstellingen. Ook roept Amnesty op tot een exportverbod.