Geautomatiseerde risicobeoordeling wordt steeds populairder in het strafrechtsysteem, maar een nieuwe studie gepubliceerd in de Amerikaanse strafrechtelijke recensie beoordeelde de nauwkeurigheid, validiteit en voorspellend vermogen van een algoritme voor risicobeoordeling om algoritmische oneerlijkheid tegen Hispanics aan het licht te brengen.

Risicobeoordeling kan een objectieve manier zijn om het aantal gevangenisstraffen te verminderen zonder de openbare veiligheid in gevaar te brengen, en strafrechtelijke functionarissen vertrouwen in toenemende mate op algoritmische verwerking om beslissingen te nemen over het omgaan met overtreders op basis van hun risicoprofielen. Echter, er is alarmerend bewijs dat erop wijst dat risico-algoritmen mogelijk bevooroordeeld zijn tegen minderheidsgroepen.

Dr. Melissa Hamilton, lector Rechten en Strafrecht aan de Universiteit van Surrey, gebruikte een grote dataset van verdachten die in afwachting van het proces waren gescoord op COMPAS - een veelgebruikte algoritmische risicobeoordelingstool - kort na hun arrestaties om de impact van deze algoritmische tool specifiek op de Latijns-Amerikaanse minderheidsgroep.

Dr. Hamilton zei:"Er is een misvatting dat algoritmische risicobeoordelingsinstrumenten die zijn ontwikkeld met behulp van big data, automatisch een transparante, consistente en logische methode voor het classificeren van daders. Mijn onderzoek suggereert dat risicotools ongelijke resultaten kunnen opleveren voor minderheidsgroepen als ze geen rekening houden met hun culturele verschillen. Bias treedt op wanneer risicotools grotendeels op één groep zijn genormeerd, bijvoorbeeld witte monsters, omdat ze daardoor onnauwkeurige voorspellingen voor minderheidsgroepen opleveren.

"Cumulatief bewijs toonde aan dat COMPAS consequent oneerlijke en bevooroordeelde algoritmische resultaten vertoonde voor mensen met een Spaanse etniciteit, met statistieken die differentiële validiteit en differentieel voorspellend vermogen presenteren. De tool kan de werkelijke resultaten niet nauwkeurig voorspellen, vervolgens het risico van recidive voor Spaanse verdachten in afwachting van het proces te hoog voorspellen."

Hoewel er indrukwekkende vorderingen zijn gemaakt in de gedragswetenschappen, de beschikbaarheid van big data en statistische modellering, justitiefunctionarissen moeten zich ervan bewust zijn dat er meer zorg nodig is om ervoor te zorgen dat goede validatiestudies worden uitgevoerd voordat een algoritmisch risico-instrument wordt gebruikt, om te bevestigen dat het eerlijk is voor de beoogde populatie en subpopulaties.