Ons leven wordt steeds meer beïnvloed door algoritmen. Mensen kunnen leningen worden geweigerd, banen, Verzekeringsbeleid, of zelfs voorwaardelijke vrijlating op basis van risicoscores die ze produceren.

Toch zijn algoritmen notoir gevoelig voor vooroordelen. Bijvoorbeeld, algoritmen die worden gebruikt om het risico op strafrechtelijke recidive te beoordelen, hebben vaak hogere foutenpercentages in etnische minderheidsgroepen. Zoals ProPublica ontdekte, het COMPAS-algoritme – dat veel wordt gebruikt om recidive te voorspellen in het Amerikaanse strafrechtsysteem – had een hoger percentage valse positieven bij zwarten dan bij blanken; zwarte mensen hadden meer kans om ten onrechte te worden voorspeld om opnieuw in de fout te gaan.

Bevindingen zoals deze hebben ertoe geleid dat sommigen beweren dat algoritmen oneerlijk of discriminerend zijn. In antwoord, AI-onderzoekers hebben geprobeerd algoritmen te produceren die vermijden, of in ieder geval minimaliseren, oneerlijkheid, bijvoorbeeld, door het gelijkmaken van fout-positieve percentages over raciale groepen. Onlangs, een MIT-groep meldde dat ze een nieuwe techniek hadden ontwikkeld om vooroordelen uit algoritmen te halen zonder de nauwkeurigheid in gevaar te brengen. Maar is het repareren van algoritmen de beste manier om oneerlijkheid tegen te gaan?

Het hangt af van wat voor soort eerlijkheid we nastreven. Morele en politieke filosofen stellen vaak twee soorten rechtvaardigheid tegenover elkaar:procedurele en inhoudelijke. een beleid, procedure, of handelwijze, is procedureel eerlijk wanneer het eerlijk is, onafhankelijk van de resultaten die het veroorzaakt. De beslissing van een voetbalscheidsrechter kan eerlijk zijn, ongeacht hoe het de uitkomst van het spel beïnvloedt, simpelweg omdat de beslissing is genomen op basis van een onpartijdige toepassing van de regels. Of de behandeling van een ouder van zijn twee kinderen kan eerlijk zijn omdat het geen partijdigheid of vriendjespolitiek aan de dag legt, ook al heeft het tot gevolg dat het leven van het ene kind veel beter gaat dan dat van het andere.

Daarentegen, iets dat in wezen eerlijk is, levert eerlijke resultaten op. Stel dat een voetbalscheidsrechter een zachte penalty toekent aan een team dat 1-0 achter staat omdat ze denkt dat de voorsprong van het andere team het resultaat was van puur geluk. Als resultaat, het spel eindigt in een 1-1 gelijkspel. Deze beslissing lijkt procedureel oneerlijk - de scheidsrechter past de regels minder strikt toe op het ene team dan op het andere. Maar als een gelijkspel de relatieve prestatie van de twee teams weerspiegelt, het kan inhoudelijk eerlijk zijn.

Alternatief, stel je voor dat een moeder en vader verschillende kinderen prefereren. Elke ouder behandelt het benadeelde kind oneerlijk, in procedurele zin. Maar als het eindresultaat is dat de twee kinderen evenveel liefde krijgen, dan kunnen hun acties in wezen eerlijk zijn.

Wat is eerlijk?

AI-onderzoekers die zich zorgen maken over eerlijkheid hebben, voor het grootste gedeelte, gericht is geweest op het ontwikkelen van algoritmen die procedureel eerlijk zijn - eerlijk op grond van de kenmerken van de algoritmen zelf, niet de gevolgen van hun inzet. Maar wat als het wezenlijke eerlijkheid is dat er echt toe doet?

Er is meestal een spanning tussen procedurele rechtvaardigheid en nauwkeurigheid - pogingen om de meest aanbevolen vormen van procedurele rechtvaardigheid te bereiken, verhogen het algemene foutenpercentage van het algoritme. Neem bijvoorbeeld het COMPAS-algoritme. Als we de fout-positieve percentages tussen zwarte en blanke mensen gelijk zouden maken door de voorspellers van recidive te negeren die vaak onevenredig bezeten waren door zwarte mensen, het waarschijnlijke resultaat zou een verlies in algehele nauwkeurigheid zijn, met meer mensen ten onrechte voorspeld om opnieuw te begaan, of niet opnieuw beledigen.

We zouden deze problemen kunnen vermijden als we ons concentreren op inhoudelijke in plaats van procedurele eerlijkheid en eenvoudigweg algoritmen zouden ontwerpen om de nauwkeurigheid te maximaliseren, en tegelijkertijd alle inhoudelijk oneerlijke effecten die deze algoritmen kunnen hebben, te blokkeren of te compenseren. Bijvoorbeeld, in plaats van te proberen ervoor te zorgen dat fouten bij het voorspellen van misdaad verschillende raciale groepen in gelijke mate treffen - een doel dat in ieder geval onbereikbaar is - zouden we er in plaats daarvan voor kunnen zorgen dat deze algoritmen niet worden gebruikt op manieren die nadelig zijn voor degenen met een hoog risico. We kunnen mensen die als "hoog risico" worden beschouwd revalidatiebehandelingen aanbieden in plaats van, zeggen, hen te onderwerpen aan verdere opsluiting.

Alternatief, we zouden maatregelen kunnen nemen om de neiging van een algoritme om aan sommige groepen een hoger risico toe te kennen dan aan andere te compenseren - door bij voorkeur risicoverlagende rehabilitatieprogramma's aan te bieden aan zwarte mensen, bijvoorbeeld.

Streven naar inhoudelijke eerlijkheid buiten het ontwerp van het algoritme, zou de ontwerpers van algoritmen de vrijheid geven om zich te concentreren op het maximaliseren van de nauwkeurigheid, eerlijkheid overgelaten aan de regelgevende instanties van de staat, met deskundige en democratische inbreng. Deze aanpak is ook op andere gebieden succesvol gebleken. in de geneeskunde, bijvoorbeeld, artsen richten zich op het bevorderen van het welzijn van hun patiënten, terwijl gezondheidsfinanciers en beleidsmakers de eerlijke toewijzing van gezondheidszorgmiddelen over patiënten bevorderen.

Inhoudelijk of procedure

Natuurlijk, de meesten van ons zouden terughoudend zijn om procedurele rechtvaardigheid volledig op te geven. Als een scheidsrechter elke kleine overtreding door één team bestraft, terwijl hij een ander weg liet komen met grote fouten, we zouden denken dat er iets mis was gegaan - zelfs als het juiste team wint. Als een rechter alles wat een gedaagde zegt negeert en aandachtig naar de eiser luistert, we zouden denken dat dit oneerlijk was, zelfs als de beklaagde een jetset-miljardair is die zou, zelfs als schuldig bevonden, veel beter af zijn dan een meer verdienstelijke eiser.

We hechten veel belang aan procedurele rechtvaardigheid. Maar inhoudelijke eerlijkheid is vaak belangrijker - tenminste, velen van ons hebben intuïties die hiermee in overeenstemming lijken te zijn. Sommigen van ons vinden dat presidenten en vorsten de vrijheid moeten hebben om gratie te verlenen aan veroordeelde overtreders, ook al past dit de wettelijke regels inconsequent toe - laat sommigen, maar anderen niet van de haak. Waarom denk je dat dit gerechtvaardigd is? Misschien omdat gratie helpt om materiële eerlijkheid te waarborgen waar procedureel eerlijke processen resulteren in oneerlijk harde gevolgen.

Velen van ons denken ook dat positieve actie gerechtvaardigd is, zelfs als het lijkt, op het oog, procedureel oneerlijk zijn, omdat het sommige groepen meer aandacht geeft dan andere. Misschien tolereren we deze oneerlijkheid omdat, door de effecten van onderdrukking in het verleden te verzachten, positieve actie heeft de neiging om materiële rechtvaardigheid te bevorderen.

Als materiële rechtvaardigheid in het algemeen belangrijker is dan procedurele rechtvaardigheid, het tegengaan van vooringenomen algoritmen door middel van veranderingen in het algoritmische ontwerp is misschien toch niet de beste weg naar eerlijkheid.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.