Uit een onderzoek uitgevoerd door de University of California, Berkeley, gepubliceerd in het tijdschrift Science, is gebleken dat risicobeoordelingsalgoritmen die in het strafrechtsysteem worden gebruikt, vooringenomenheid jegens de Latijns-Amerikaanse bevolking vertonen. De studie analyseerde gegevens uit meer dan 20 miljoen strafzaken en ontdekte dat de algoritmen waarschijnlijker voorspelden dat Spaanse verdachten toekomstige misdaden zouden plegen dan blanke verdachten, zelfs als ze een vergelijkbare criminele geschiedenis en andere risicofactoren hadden.

De bevindingen van het onderzoek hebben aanleiding gegeven tot bezorgdheid over de eerlijkheid en nauwkeurigheid van risicobeoordelingsalgoritmen, die steeds vaker worden gebruikt om beslissingen te nemen over voorlopige invrijheidstelling, veroordeling en voorwaardelijke vrijlating. Critici beweren dat deze algoritmen raciale en etnische verschillen in het strafrechtsysteem kunnen bestendigen door het risico op recidive voor bepaalde groepen mensen systematisch te overschatten.

Als reactie op deze zorgen zijn sommige rechtsgebieden begonnen stappen te ondernemen om algoritmische vooringenomenheid aan te pakken. Californië heeft bijvoorbeeld onlangs een wet aangenomen die vereist dat algoritmen voor risicobeoordeling worden gecontroleerd op vooringenomenheid en die het gebruik verbiedt van algoritmen die discrimineren op basis van ras of etniciteit. Andere rechtsgebieden overwegen soortgelijke maatregelen om ervoor te zorgen dat risicobeoordelingsalgoritmen eerlijk en rechtvaardig worden gebruikt.

De bevindingen van het onderzoek herinneren aan de potentiële gevaren van het gebruik van algoritmen om beslissingen te nemen over het leven van mensen. Het is belangrijk om bij het ontwikkelen en gebruiken van deze algoritmen zorgvuldig rekening te houden met de kans op vooringenomenheid en discriminatie, en stappen te ondernemen om deze risico's te beperken.