Afgelopen september, de ACLU heeft een amicus-briefing ingediend in een zaak in Californië die een controverse op gang brengt over het gebruik van algoritmen en kunstmatige intelligentie in het strafrecht.

Een DNA-monster genomen uit een grotere steekproef van gemengd menselijk DNA, betrok Billy Ray Johnson bij inbraken en aanrandingen. Johnson ontkende de misdaden te hebben gepleegd, maar hij kreeg een levenslange gevangenisstraf zonder voorwaardelijke vrijlating. Aanklagers baseerden hun zaak op de resultaten van een wetshandhavingstool met een geavanceerd algoritme genaamd TrueAllele.

Johnson's advocaten mochten de broncode van TrueAllele nooit onderzoeken, om te zien of het op de een of andere manier een informatiebias bevatte. Aanklagers voerden met succes aan dat wetten het algoritme als handelsgeheim beschermden.

Voor Jessica Gabel Cino, adjunct-decaan wetenschappelijke zaken en universitair hoofddocent recht, de beslissing veroorzaakte een grote rode vlag.

"Geen enkele technologie is onfeilbaar, "zei ze. "Tech is ontworpen door mensen en wordt gerund door mensen, dus er is zeker ruimte voor menselijke fouten tijdens het hele proces. Bovendien, de resultaten zijn zo goed als de input."

ging Cino verder. "Systemen zijn ontwikkeld voor propriëtaire doeleinden, door particuliere bedrijven die winst willen maken. Maar we hebben het over toegang tot informatie die de vrijheid van een persoon aantast. Om de toegang tot validatiereeksen te weigeren, broncode of eigendomsgegevens wanneer deze de vrijheid van een persoon aantasten? Het gebruik van een tovenaar die zich achter een gordijn verstopt om een ​​veroordeling te krijgen, verzwakt de integriteit van het systeem."

Vera Eidelman van de ACLU, een William J. Brennan Fellow met de ACLU-toespraak, privacy, en Technologieproject, in september verder toegelicht.

"Raciale vooroordelen sluipen ook vaak in algoritmen, zowel omdat de onderliggende gegevens bestaande raciale ongelijkheden weerspiegelen en omdat onnauwkeurige resultaten voor kleinere minderheidsgroepen verborgen kunnen zijn in de algemene resultaten, " schreef Eidelman. "En, natuurlijk, er is de mogelijkheid dat financiële prikkels de doelen van bedrijven die deze algoritmen bouwen, zullen verdraaien. In de context van DNA-typering, de vervolging, gesteund door de aanzienlijke middelen van de staat, is de meest waarschijnlijke klant van een bedrijf en die klant is waarschijnlijk het meest tevreden met een algoritme dat een match oplevert. Dus bedrijven kunnen programma's opzetten om de waarheid over de waarheid te vergelijken."

Soortgelijke zorgen doen zich voor met betrekking tot het gebruik van AI bij borgtocht- en veroordelingsbeslissingen.

Vic Reynolds (JD '86), officier van justitie voor Cobb County, Georgië, heeft in zijn carrière de opkomst van technologie in de advocatuur gezien. Hij heeft aan beide kanten van de bank gezeten, als rechter, een advocaat en, vandaag, een officier van justitie.

"We hebben het over een rechtsgebied waar weinig precedent is, Reynolds zei. "Als we ons committeren aan een systeem waarbij AI wordt gebruikt om te helpen bij het formuleren van een strafrechtelijke veroordeling, we hebben in feite een ethische plicht om de basis van dat systeem te delen met de mensen wiens leven wordt beïnvloed."

Hij zegt dat er zowel voor- als nadelen zijn aan het gebruik van AI als strafinstrument.

"Aan de positieve kant - elke keer dat we het menselijke element erbij hebben, het brengt menselijke zwakheden met zich mee, " zei hij. "Rechters zijn mensen, dus zelfs goede rechters kunnen een hele slechte dag hebben, een dag waarop er ruzie is met een echtgenoot of iets anders dat hem of haar aangaat.

"Het gebruik van een AI-systeem kan een deel van deze menselijke kwetsbaarheid wegnemen, ' zei Reynolds.

En de nadelen?

"Omdat ik rechter was, Ik weet dat de essentie van die positie discretie is, " zei Reynolds. "Zelfs de federale veroordelingsrichtlijnen zijn onlangs begonnen een deel van die discretie terug te geven aan veroordelingsrechters.

"Laten we zeggen dat we de geschiedenis van een persoon aansluiten op een kunstmatige-intelligentiesysteem. Op basis van eerdere veroordelingen voor misdrijven, het systeem beveelt een gevangenisstraf van 10 jaar aan. Maar bij nader inzien we kunnen zien dat eerdere veroordelingen waren gebaseerd op een situatie van drugsmisbruik en dat een betere langetermijnbeslissing een zin zou kunnen zijn die de nadruk legt op substantiële behandeling. Naar mij, dit is waar de discretie van een rechter in het spel zou komen.

"Als je dat menselijke element er niet bij hebt, en je verliest het element van discretie, er is een kans op fouten."

Cino citeert een studie gepubliceerd in wetenschappelijke vooruitgang over de geloofwaardigheid van het computerprogramma COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), die beoordeelt of verdachten op borgtocht moeten worden vrijgelaten op basis van hun risico op recidive. De auteurs van het onderzoek ontdekten dat COMPAS, die is gebruikt om meer dan een miljoen beklaagden in de VS te beoordelen, "is niet nauwkeuriger of eerlijker dan de voorspellingen van mensen met weinig tot geen expertise op het gebied van strafrecht die reageerden op een online-enquête."

"Het strafrechtsysteem snakt naar technologie die besluitvorming minder subjectief maakt, "Cino zei, "maar vroege adoptie zonder de juiste validatie heeft gevolgen op de lange termijn die moeilijk te corrigeren zijn."

Cino, Reynolds en vele anderen in het rechtssysteem zullen de Johnson-zaak in Californië bekijken. Advocaten zullen begin 2018 pleidooien houden. Cino hoopt op een besluit dat transparantie ondersteunt.

"Als we kunstmatige intelligentie gaan gebruiken, " ze zei, "We zullen hopelijk overstappen op een open-sourcemodel dat ons voorbij deze Chinese muur van bedrijfsgeheimen brengt. Ofwel open source, of de beschuldigde krijgt toegang tot het algoritme. Er is een reden dat we recht hebben op een eerlijk proces."