Hoe Nederland A.I. inzet voor etnisch profileren

Camera’s in Roermond registeren passerende auto’s en A.I. laat alle alarmbellen afgaan bij de politie als er een auto met een Oost-Europees nummerbord langskomt, zeker als het gaat om een kleine, witte auto van drie tot vijf jaar oud. De veronderstelling is namelijk dat misdaden als diefstal, drugshandel en zakkenrollen meestal worden gepleegd door mensen uit de Roma-gemeenschap en/of van Oost-Europese afkomst. Het kwalijke hieraan is dat het principe van onschuld, de basis van onze rechtstaat, wordt losgelaten. Mensen worden niet als verdacht beschouwd vanwege hun daden, maar omdat ze vanwege bepaalde kenmerken – zoals een type nummerplaat – als hoog risico worden gezien. Het idee is dat hun profiel erop wijst dat ze mogelijk een misdaad zullen begaan. Dit algoritme stelt geen misdaden vast, maar voorspelt ze. Daarmee is het Sensing-project een voorbeeld van predictive policing, een trend die zich wereldwijd steeds meer aan het ontwikkelen is, waarbij de nieuwe digitale technologie een flinke aanjager is. De benadering in Roermond is bovendien gebaseerd op een vooroordeel. Uit de criminaliteitscijfers blijkt dat de meeste verdachten van winkeldiefstal en zakkenrollers in Roermond de Nederlandse nationaliteit bezitten, zo schrijft masterstudent Vera Prins op de blog van het Montaigne Centrum voor Rechtstaat en Rechtspleging van de Universiteit Utrecht. De gedachte dat deze misdrijven worden gepleegd door mensen met een Roma-achtergrond is dus niet gebaseerd op concrete aanwijzingen daarvoor in Nederland, maar onder meer op rapportages van ervaringen van de politie in Roemenië en Bulgarije. De vraag is hoe betrouwbaar die rapportages zijn; het zijn landen waar sterke gevoelens van antipathie bestaan ten opzichte van Roma, schrijft Prins.

Florentijn van Rootselaar in Hoe Nederland A.I. inzet voor etnisch profileren (OneWorld)