DNA-bewijs is vaak niet zo waterdicht als veel mensen denken. Dankzij gevoelige technieken die in de afgelopen 20 jaar zijn ontwikkeld, kan de politie nu minuscule DNA-sporen op een plaats delict of op een bewijsstuk detecteren. Maar sporen van een dader worden vaak vermengd met die van vele andere mensen die zijn overgebracht naar de monsterplaats, bijvoorbeeld via een handdruk. En dit probleem heeft ertoe geleid dat mensen ten onrechte zijn veroordeeld.

Wetenschappers hebben algoritmen ontwikkeld om deze DNA-soep te scheiden en de relatieve hoeveelheden van het DNA van elke persoon in een monster te meten. Deze "probabilsitische genotypering"-methoden hebben forensische onderzoekers in staat gesteld aan te geven hoe waarschijnlijk het is dat het DNA van een persoon is opgenomen in een gemengd monster dat op de plaats delict is gevonden.

En nu, er worden meer geavanceerde kunstmatige intelligentie (AI)-technieken ontwikkeld in een poging DNA-profielen te extraheren en te proberen te achterhalen of een DNA-monster rechtstreeks afkomstig is van iemand die op de plaats delict was, of dat het net onschuldig was overgedragen.

Maar als deze technologie succesvol is, het zou een nieuw probleem kunnen introduceren, omdat het momenteel onmogelijk is om precies te begrijpen hoe deze AI tot zijn conclusies komt. En hoe kunnen we erop vertrouwen dat technologie essentieel bewijs levert als we niet kunnen ondervragen hoe het dat bewijs in de eerste plaats heeft geproduceerd? Het heeft het potentieel om de weg vrij te maken voor nog meer gerechtelijke dwalingen en dus kan dit gebrek aan transparantie een belemmering vormen voor het gebruik van de technologie in forensisch onderzoek.

Soortgelijke uitdagingen ontstonden toen DNA-analysesoftware tien jaar geleden voor het eerst werd ontwikkeld. Bewijs afgeleid van DNA-mixsoftware stuitte al snel op uitdagingen van defensieteams (inclusief die van OJ Simpson), die bezorgd waren dat het openbaar ministerie zou moeten aantonen dat de software correct was gevalideerd.

Hoe nauwkeurig waren de resultaten, en wat was het bekende foutenpercentage? Hoe werkte de software precies en was deze geschikt voor verdedigingshypothesen? Waren de resultaten echt zo betrouwbaar dat een jury veilig kon veroordelen?

Het is een fundamenteel principe van de wet dat bewijs open moet staan ​​voor toetsing. De jury kan zich niet beroepen op kale beweringen (claims gemaakt zonder bewijs), ongeacht wie ze maakt en welke expertise ze hebben. Maar de eigenaren van de software voerden aan dat het hun beschermde intellectuele eigendom was en dat het niet openbaar mocht worden gemaakt hoe het werkte.

Er volgde een gevecht waarbij gebruik werd gemaakt van nieuwe gerechtelijke procedures om verdedigingsteams in staat te stellen privé te onderzoeken hoe de software werkte. Eindelijk, de rechtbanken waren ervan overtuigd dat volledige toegang tot de broncode nodig was, niet in de laatste plaats om andere hypothesen te testen dan die van de aanklager.

Maar de software heeft de problemen van DNA-mengsels en kleine, gedegradeerde monsters. We weten nog steeds niet definitief of het DNA in een monster rechtstreeks van een persoon afkomstig is of daarheen is overgebracht. Dit wordt gecompliceerd door het feit dat verschillende mensen DNA met verschillende snelheden afgeven - een fenomeen dat bekend staat als hun "shedder-status".

Bijvoorbeeld, een monster van een moordwapen kan meer DNA bevatten van iemand die het niet heeft aangeraakt dan van de persoon die de moord daadwerkelijk heeft gepleegd. Hierdoor zijn mensen aangeklaagd voor ernstige delicten.

Voeg daarbij het feit dat DNA met verschillende snelheden over verschillende oppervlakken en in verschillende omgevingsomstandigheden wordt overgedragen en het kan bijna onmogelijk worden om precies te weten waar DNA in een monster vandaan komt. Dit probleem van "overdracht en persistentie" dreigt forensisch DNA ernstig te ondermijnen.

Als resultaat, experimenten zijn aan de gang om manieren te vinden om DNA-overdracht in verschillende omstandigheden nauwkeuriger te kwantificeren. En AI heeft het potentieel om de gegevens van deze experimenten te analyseren en te gebruiken om de oorsprong van DNA in een monster aan te geven.

Maar op AI gebaseerde software heeft een nog groter transparantieprobleem dan probabilistische genotyperingssoftware, en een die momenteel fundamenteel is voor de manier waarop het werkt. De exacte manier waarop de software werkt, is niet alleen een commercieel geheim, het is zelfs voor de softwareontwikkelaars onduidelijk.

Transparantieproblemen

AI gebruikt wiskundige algoritmen om taken uit te voeren, zoals het matchen van een gezichtsuitdrukking aan een bepaalde reeks emoties. Maar, cruciaal, het is in staat om te leren door een proces van vallen en opstaan ​​en manipuleert geleidelijk de onderliggende algoritmen om efficiënter te worden.

Het is dit proces van manipulatie en verandering dat niet altijd transparant is. De software maakt zijn wijzigingen ongelooflijk snel volgens zijn eigen, niet te ontcijferen logica. Het kan fantastisch efficiënte resultaten opleveren, maar we kunnen niet zeggen hoe het dat deed. Het werkt als een zwarte doos die inputs neemt en outputs geeft, maar waarvan de innerlijke werking onzichtbaar is. Programmeurs kunnen een duidelijker ontwikkelingsproces doorlopen, maar het is langzamer en minder efficiënt.

Dit transparantieprobleem treft veel bredere toepassingen van AI. Bijvoorbeeld, het maakt het erg moeilijk om AI-systemen te corrigeren waarvan de beslissingen een raciale of gendervooroordeel vertonen, zoals degenen die worden gebruikt om cv's van werknemers te doorzoeken, of om politiemiddelen aan te vallen.

En de komst van AI-gestuurde DNA-analyse zal een extra dimensie toevoegen aan de problemen die al zijn ondervonden. Advocaten van de verdediging zouden het gebruik van deze technologie terecht kunnen aanvechten, zelfs als het gebruik ervan beperkt is tot het verzamelen van inlichtingen in plaats van het leveren van bewijs voor vervolging. Tenzij transparantieproblemen in een vroeg stadium worden aangepakt, de obstakels voor het gebruik van AI in het forensisch veld zouden onoverkomelijk kunnen blijken.

Hoe kunnen we deze uitdagingen aanpakken? Een optie kan zijn om te kiezen voor de minder efficiënte, beperkte vormen van AI. Maar als het doel van AI is om de taken uit te voeren die we zelf minder kunnen of willen doen, dan kan het verminderen van de efficiëntie een slechte oplossing zijn. Welke vorm van AI we ook kiezen, binnen een contradictoir systeem van strafrecht moet er de mogelijkheid zijn voor herziening, om alle geautomatiseerde beslissingen te reverse-engineeren, en voor derden om ondubbelzinnige validatie te bieden.

uiteindelijk, dit is niet alleen een technisch probleem, maar een urgent ethisch probleem dat de kern van ons strafrechtsysteem raakt. Op het spel staat het recht op een eerlijke, open en transparant proces. Dit is een fundamentele vereiste die moet worden aangepakt voordat de onstuimige stroom van technologische vooruitgang ons voorbij het point of no return brengt.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.