Gezichtsdetectietechnologie die Amazon op de markt brengt voor wetshandhavers identificeert vrouwen vaak verkeerd, vooral die met een donkere huid, volgens onderzoekers van MIT en de Universiteit van Toronto.

Voorstanders van privacy en burgerrechten hebben Amazon opgeroepen om te stoppen met de marketing van zijn Rekognition-service vanwege zorgen over discriminatie van minderheden. Sommige Amazon-investeerders hebben het bedrijf ook gevraagd te stoppen uit angst dat het Amazon kwetsbaar maakt voor rechtszaken.

De onderzoekers zeiden dat in hun tests, De technologie van Amazon bestempelde vrouwen met een donkere huidskleur 31 procent van de tijd als mannen. Vrouwen met een lichtere huid werden 7 procent van de tijd verkeerd geïdentificeerd. Mannen met een donkere huid hadden een foutenpercentage van 1 procent, terwijl mannen met een lichtere huid er geen hadden.

Kunstmatige intelligentie kan de vooroordelen van hun menselijke makers nabootsen terwijl ze hun weg vinden naar het dagelijks leven. De nieuwe studie, laat donderdag vrij, waarschuwt voor het potentieel van misbruik en bedreigingen voor de privacy en burgerlijke vrijheden van gezichtsdetectietechnologie.

Mat hout, algemeen directeur kunstmatige intelligentie bij Amazon's cloud-computing-eenheid, zei dat de studie een "gezichtsanalyse" en geen "gezichtsherkenning" -technologie gebruikt. Wood zei dat gezichtsanalyse "gezichten in video's of afbeeldingen kan herkennen en generieke kenmerken kan toewijzen, zoals het dragen van een bril; herkenning is een andere techniek waarmee een individueel gezicht wordt gekoppeld aan gezichten in video's en afbeeldingen."

In een vrijdagbericht op de Medium-website, MIT Media Lab-onderzoeker Joy Buolamwini antwoordde dat bedrijven alle systemen die menselijke gezichten analyseren moeten controleren op vooringenomenheid.

"Als je één systeem verkoopt waarvan is aangetoond dat het een vooroordeel heeft op menselijke gezichten, het is twijfelachtig dat uw andere gezichtsproducten ook volledig vrij van vooroordelen zijn, " zij schreef.

Amazon's reactie laat zien dat het de "echt ernstige zorgen die uit dit onderzoek naar voren komen niet serieus neemt, " zei Jacob Sneeuw, een advocaat bij de American Civil Liberties Union.

Buolamwini en Inioluwa Deborah Raji van de Universiteit van Toronto zeiden dat ze de technologie van Amazon hebben bestudeerd omdat het bedrijf het aan wetshandhavers heeft verkocht. Raji's LinkedIn-account zegt dat ze momenteel een research mentee is voor kunstmatige intelligentie bij Google, die concurreert met Amazon bij het aanbieden van cloud computing-diensten.

Buolamwini en Raji zeggen dat Microsoft en IBM hun gezichtsherkenningstechnologie hebben verbeterd sinds onderzoekers soortgelijke problemen ontdekten in een studie van mei 2017. Hun tweede studie, waaronder Amazon, werd gedaan in augustus 2018. Hun paper wordt maandag gepresenteerd op een kunstmatige intelligentie-conferentie in Honolulu.

Wood zei dat Amazon zijn technologie sinds de studie heeft bijgewerkt en zijn eigen analyse heeft gedaan met "nul vals-positieve overeenkomsten".

Op de website van Amazon wordt Rekognition gecrediteerd voor het helpen van het Washington County Sheriff Office in Oregon om de tijd te versnellen die nodig was om verdachten te identificeren uit honderdduizenden foto's.

© 2019 The Associated Press. Alle rechten voorbehouden.