Zelfs op een grijze, doordeweekse najaarsdag in tijden van corona doet de drukte in de Designer Outlet Roermond denken aan volle winkelstraten in het centrum van een stad in het weekend. Vele mensen maken hun ronde langs de bijna tweehonderd winkels in het merkendorp, die schuilgaan achter nostalgisch aandoende fantasiegevels. Binnen lonken kortingen tot 70 procent.
Het geroezemoes van het winkelend publiek maakt een mededeling via de geluidsinstallatie van de outlet grotendeels onverstaanbaar. Alleen de term ‘social distancing’ is nog net hoorbaar. Daarna valt heel zachtjes Coldplay met ‘Clocks’ als muzikaal achtergrondbehang te horen: ‘Am I part of the cure? Or am I part of the disease?’ Aankopen lijken hier een soort statussymbool: veel van de bezoekers dragen hun volle tassen met groot afgedrukte merknamen als trofeeën aan hun armen. Voor de zaken van Gucci en Prada staan ondertussen rijen klanten te wachten op hun beurt.
Ook door de week beginnen de oefeningen in geduld al buiten de Designer Outlet. Dan is de toestroom van dagjesmensen zo groot dat er files staan op de toegangswegen. Langzaam opschuivend richting het koopwalhalla zullen de nodige inzittenden opmerken dat ze in de gaten worden gehouden. Roermond hangt vol bordjes waarop in woord en beeld wordt geattendeerd op cameratoezicht. De logo’s van vertrouwenwekkende instanties als de gemeente en de politie staan erop.
Algoritmes
Camera’s en sensoren op de toegangswegen (vooral rond kruispunten zijn die moeilijk te missen) registreren kentekens, land van herkomst, automerk en -model, kleur en de gevolgde route. Algoritmes gaan vervolgens met al die data aan de slag en zeven op basis van puntenscores voor alle afzonderlijke waarnemingen mogelijk verdachte voertuigen uit de verzamelde bezoekersgegevens. Het experiment, luisterend naar de gevoelig aandoende naam Sensing, moest duidelijk maken in hoeverre mensen met snode plannen op het gebied van winkeldiefstal en zakkenrollerij voortijdig de voet kan worden dwarsgezet. Roermond is als drukbezochte grensstad gevoelig voor dat soort criminaliteit, legde een woordvoerder van de gemeente uit aan RTL Nieuws bij de introductie van de proef twee jaar geleden.
‘De manier waarop de politie in Roermond naar het criminaliteitsprobleem kijkt, werkt etnisch profileren in de hand’
Drukbezocht is een understatement. Alleen het hart van Amsterdam trekt meer mensen. De bijna twintig jaar oude en gestaag uitdijende Designer Outlet in Roermond is met acht miljoen bezoekers per jaar bijvoorbeeld een grotere attractie dan De Efteling (vijf miljoen bezoekers). Wie luistert naar de voertaal in het merkendorp hoort onmiddellijk wie de grootste doelgroep vormt. Anders is het wel zichtbaar bij het restaurant naast Piet Friet, dat klandizie hoopt te trekken met opschriften als ‘Schnitzelparadies’ en ‘Biergarten’. De Duitse grens ligt slechts een paar kilometer oostwaarts. Vanuit het dichtbevolkte Noordrijn-Westfalen, met ongeveer evenveel inwoners als Nederland, is de outlet een mooi uitje. Maar bezoekers komen ook van veel verder. Buiten coronatijd vliegen speciale charters vanuit China en de Perzische Golf op Düsseldorf. Ze zitten vol kooplustigen die speciaal voor het shoppen naar Roermond komen.
Al die bezoekers hebben geld bij zich en de meeste kopen dure spullen. Dat trekt ook criminelen. De politie gebruikt de term ‘mobiel banditisme’. Het zouden vooral georganiseerde groepen buitenlanders zijn, met name Oost-Europeanen, die zich er schuldig aan maken. Sensing moet hun praktijken voorkomen door op basis van de kentekens van bezoekers de kans te berekenen dat inzittenden strafbare feiten kunnen gaan plegen.
Niet neutraal
Amnesty International onderzocht het experiment en laat er in haar rapport We sense trouble: Automated discrimination and mass surveillance weinig van heel. Van Roermond is een Big Brother-achtige proeftuin gemaakt, waarbij volgens Gerbrig Klos, senior-medewerker politie en mensenrechten, volop wordt vertrouwd op de ‘zogenaamd neutrale technologie. Maar algoritmes werken op basis van een model. Het programmeren daarvan is mensenwerk. De categorisering die daarbij wordt gehanteerd, suggereert een oorzakelijk verband tussen criminaliteit en etniciteit. Dat verband bestaat niet. Desondanks is het algoritme zo opgesteld dat aan voertuigen met bepaalde Oost-Europese kentekens een hoger risico wordt toegekend. De manier waarop de politie in Roermond naar het criminaliteitsprobleem kijkt, werkt etnisch profileren in de hand.’
Bovendien doet de politie het in eerdere publiciteit voorkomen alsof vooral Oost-Europeanen, en dan met name Roma, zich schuldig maken aan zakkenrollerij en winkeldiefstal in de outlet. In werkelijkheid gaat het om zo’n 17 procent van de 310 tot 449 verdachten die elk jaar voor dit soort misdrijven worden aangehouden.
Amnesty vindt ‘het sleepnet dat wordt uitgeworpen’ ook veel te groot. Klos: ‘Data van alle automobilisten, ook bewoners en bezoekers die niet eens naar het merkendorp toe gaan, worden binnengehaald en zonder fatsoenlijke waarborgen een maand opgeslagen. Zo’n vorm van massasurveillance is in strijd met de mensenrechten.’
Toeslagenaffaire
Landen als de Volksrepubliek China doen al een hele tijd hard hun best om via digitale surveillance burgers overal te volgen en om zo veel mogelijk te weten te komen van hun gedrag en denkbeelden. Kleine misstappen als meermalen door rood licht lopen, kunnen al gevolgen hebben voor de kansen op een woning of een baan. ‘Maar autocratische regimes hebben allang niet meer het alleenrecht op de inzet van moderne technologie bij wetshandhaving’, constateert Klos.
In democratische landen worden bijvoorbeeld proeven gedaan met predictive policing, het zo veel mogelijk voorspellen van het wie, wat en waar van criminaliteit om misdaden te kunnen voorkomen. ‘De politie in Los Angeles begon er zo’n jaar of tien geleden als eerste mee te experimenteren’, vertelt Marc Schuilenburg, docent strafrecht en criminologie aan de Vrije Universiteit in Amsterdam. ‘Het is daarna op meer plaatsen in de VS en andere Angelsaksische landen opgepakt. De Nederlandse politie is de eerste die er ook op landelijke schaal mee werkt.
Ruwweg heb je twee soorten voorspellen. Predictive mapping, waarbij op grond van aangiftes, cijfers van het Centraal Bureau voor de Statistiek over bepaalde buurten zoals de gezinssamenstelling en het opleidingsniveau, en de aanwezigheid van uitvalswegen wordt gekeken wat kan gebeuren en waar. En predictive identification, dat probeert te voorspellen wie slachtoffer en dader kan worden.’
In Amsterdam begon de politie met het Criminaliteits Anticipatie Systeem (CAS) dat misdaadpatronen in de verschillende delen van de stad moest blootleggen. De politie is enthousiast. Onderzoekers en burgerrechtenorganisaties uiten kritiek. CAS zou eerder afwijkend dan strafbaar gedrag voorspellen.
Algoritmes worden inmiddels op veel fronten ingezet. In een aantal gevallen pakte dat al rampzalig uit. Denk aan de onterechte verdachtmakingen in de nog altijd slepende toeslagenaffaire, waar vooral ouders met een migratie-achtergrond de Belastingdienst achter zich aan kregen.
‘De conclusie is vrijwel nooit: hier moeten we mee stoppen. In plaats daarvan volgen pleidooien voor het verzamelen van nog meer data’
Frederik Zuiderveen Borgesius, hoogleraar ICT en privaatrecht aan de Radboud Universiteit Nijmegen, kan zich in theorie vormen van predictive policing voorstellen die – mits getoetst aan alle regel- en wetgeving – werken. ‘Maar een essentieel probleem blijft dat het nooit is gebaseerd op de misdaad zelf. Men registreert bijvoorbeeld aangiften of processen-verbaal, en trekt conclusies uit die aantallen.’
In het Roermondse geval vindt hij het middel erger dan de kwaal: ‘Het recht op privacy is niet absoluut. Soms kan dat recht wel wat worden ingeperkt als dat noodzakelijk is voor onze maatschappij. Bij proeven als Sensing moet met juristen en technici vooraf worden bekeken of dat wat je wilt doen, proportioneel en noodzakelijk is. Dat gebeurde hier niet. En ook de Autoriteit Persoonsgegevens kon niet vooraf zijn zegje doen. Van proportionaliteit en noodzakelijkheid kun je hier moeilijk spreken: het gaat niet om erg zware misdrijven en het aandeel van de belangrijkste groep daders die er met de proef moet worden uitgefilterd, is relatief beperkt. Overigens daalt de misdaad in Nederland al vijftien jaar. Dat wordt nog wel eens over het hoofd gezien.’
‘Teleurgesteld in Amnesty’
Schuilenburg vindt dat experimenten als in Roermond zondigen tegen een belangrijk uitgangspunt van het strafrecht. ‘Dat gaat ervan uit dat iedereen onschuldig is, tot het tegendeel wordt bewezen. Nu is iedereen plotseling een potentiële verdachte.’
Het lijkt enigszins op het dystopische beeld dat Philip K. Dick al in 1956 schetste in zijn korte verhaal Minority report (in 2002 onder dezelfde titel verfilmd door Steven Spielberg). Daarin voorspellen genetisch gemodificeerde mediums moorden en worden mensen op basis daarvan opgepakt.
Dat voor proeven als Sensing groen licht wordt gegeven, heeft volgens Schuilenburg te maken met het maatschappelijk klimaat: politiek en media veronderstellen een toenemend gevoel van onveiligheid (dat niet of nauwelijks is terug te zien in onderzoeken), de politiek kiest ervoor om criminaliteit steeds vroeger en steviger aan te pakken en er heerst een heilig geloof in de technologie die alle problemen zou kunnen oplossen.
Bij Sensing gaat het volgens Amnesty ook mis aan de voor- en de achterkant. Voor het begin ontbraken toetsen aan wet- en regelgeving en adviezen van relevante instanties. Na afloop ontbreken handvatten voor een goede evaluatie van de proef, omdat het systeem niet alles zorgvuldig vastlegt. Bij een zorgwekkende puntenscore van een bezoekende auto gaat de politie bovendien lang niet altijd tot een controle over, en niet in alle gevallen wordt vastgelegd dat dit gebeurt. Van ‘meten is weten’ kan bij dit experiment daarom geen sprake zijn. ‘Eigenlijk is het een proef van niks’, concludeert ook Zuiderveen Borgesius.
Goede sloten
Alle manco’s bij de evaluatie passen voor Schuilenburg in het beeld dat experimenten met predictive policing eigenlijk niet mogen mislukken. ‘De conclusie is vrijwel nooit: hier moeten we mee stoppen. In plaats daarvan volgen pleidooien voor het verder verfijnen van de techniek of het verzamelen van nog meer data. Terwijl preventie vaak toch een stuk minder ingewikkeld hoeft te zijn: meer oplettendheid en goede sloten helpen al heel erg.’
In de gemeenteraad van Roermond liet burgemeester Rianne Donders (CDA) weten dat de proef Sensing in haar gemeente is stilgelegd in afwachting van verdere verfijning. Ze zei als jarenlang lid van Amnesty International ‘teleurgesteld’ te zijn in de organisatie en het rapport over het experiment in haar gemeente. Ze uit twijfels over de ‘gebruikte feiten’ en zegt net als de politiechef geen gesprek met de organisatie te hebben gehad. Volgens Donders is er geen sprake etnisch profileren maar van het voorkomen van ‘gedrag van mensen die niet het beste met ons voorhebben’. In afwachting van een nieuw stuurgroepoverleg weigert ze een interview.
In een Tweede Kamer-overleg op 15 oktober vroegen D66 en GroenLinks aandacht voor het Amnesty-rapport. Minister Ferd Grapperhaus (CDA, Justitie en Veiligheid) kon zich deels vinden in hun zorgen: ‘Het toepassen – laat ik het duidelijk zeggen – van algoritmen die etniciteit of nationaliteit als risicofactor gebruiken, is niet toegestaan. Het is niet de bedoeling dat aanwijzingen daartoe, zoals kentekengegevens en dergelijke, worden gebruikt om dit verbod te omzeilen.’
D66 en GroenLinks kondigden een motie aan die het kabinet vraagt om ‘te borgen’ dat de politie dit ook niet doet. De minister wil wachten op een antwoord van de politie en vroeg de motie tot die tijd aan te houden. De twee fracties stemden daarmee in.
