Een nieuwe studie van de New York University School of Law en NYU's AI Now Institute concludeert dat voorspellende politiesystemen het risico lopen discriminatie in het strafrechtsysteem te verergeren als ze vertrouwen op 'vuile gegevens'.

Wetshandhaving is de afgelopen jaren onder de loep genomen vanwege praktijken die leiden tot onevenredige agressie jegens minderheidsverdachten, waardoor sommigen zich afvragen of technologie – in het bijzonder, voorspellende politiesoftware - kan discriminerende acties verminderen.

Echter, een nieuwe studie van de New York University School of Law en NYU's AI Now Institute concludeert dat voorspellende politiesystemen, in feite, het risico lopen discriminatie in het strafrechtsysteem te verergeren als ze vertrouwen op "vuile gegevens" - gegevens die zijn gemaakt op basis van gebrekkige, raciaal bevooroordeeld, en soms onwettige praktijken.

De onderzoekers illustreren dit fenomeen met case study data uit Chicago, New Orleans, en Maricopa County in Arizona. hun papier, "Vuile gegevens, Slechte voorspellingen:hoe schendingen van burgerrechten politiegegevens beïnvloeden, Predictive Policing-systemen, en Justitie, " is beschikbaar op SSRN.

"We hebben voor deze sites gekozen omdat we een overlap vonden tussen uitgebreid gedocumenteerd bewijs van corrupte of onwettige politiepraktijken en aanzienlijke interesse, ontwikkeling, en huidig ​​of eerder gebruik van voorspellende politiesystemen. Dit bracht ons ertoe de risico's te onderzoeken dat de een de ander zou beïnvloeden, " legt Jason Schultz uit, een professor in klinisch recht en een van de co-auteurs van het artikel.

De auteurs, waaronder Rashida Richardson, directeur beleidsonderzoek bij het AI Now Institute, en Kate Crawford, mededirecteur van het AI Now Institute, identificeerde 13 rechtsgebieden (inclusief de bovengenoemde casestudies) met gedocumenteerde gevallen van onwettige of bevooroordeelde politiepraktijken die ook voorspellende politiesystemen hebben verkend of ingezet tijdens de perioden van onwettige activiteit.

De politie van Chicago, bijvoorbeeld, stond onder federaal onderzoek wegens onwettige politiepraktijken toen het een geautomatiseerd systeem implementeerde dat mensen identificeert die het risico lopen slachtoffer of dader te worden van een schietpartij of moord. De studie onthulde dat dezelfde demografische groep bewoners die door het ministerie van Justitie waren geïdentificeerd als doelwitten van Chicago's politievooroordeel, overlapten met degenen die door het voorspellende systeem werden geïdentificeerd.

Andere voorbeelden toonden significante risico's van overlap, maar omdat het gebruik van voorspellende politiesystemen door de overheid vaak geheim is en verborgen voor publiek toezicht, de omvang van de risico's blijft onbekend, volgens de studie.

"In rechtsgebieden met een lange geschiedenis van corrupte politiepraktijken, er is een aanzienlijk risico dat gegevens die door dergelijke praktijken worden gegenereerd, voorspellende rekensystemen kunnen beschadigen. In zulke omstandigheden, robuust publiek toezicht en verantwoording zijn essentieel, ' zei Schultz.

Hoofdauteur Richardson voegde toe, "Hoewel deze studie beperkt was tot rechtsgebieden met een gevestigde geschiedenis van wangedrag van de politie en discriminerende politiepraktijken, we weten dat deze zorgen over politiepraktijken en -beleid niet beperkt zijn tot deze rechtsgebieden, dus meer controle met betrekking tot de gegevens die worden gebruikt in voorspellende politietechnologieën is wereldwijd noodzakelijk."