Amazon's controversiële gezichtsherkenningsprogramma, Erkenning, ten onrechte 28 leden van het Congres geïdentificeerd tijdens een test van het programma door de American Civil Liberties Union, zei de burgerrechtengroep donderdag.

In zijn proef, de ACLU scande foto's van alle leden van het Congres en liet het systeem ze vergelijken met een openbare database van 25, 000 foto's.

De groep gebruikte de standaard "betrouwbaarheidsdrempel"-instelling van 80 procent voor Rekognition, wat betekent dat de test een gezichtsovereenkomst telde met een zekerheid van 80 procent of meer.

Bij die instelling het systeem identificeerde 28 leden van het Congres verkeerd, een onevenredig aantal van hen waren mensen van kleur, ze in plaats daarvan labelen als totaal verschillende mensen die zijn gearresteerd voor een misdrijf.

De gezichten van leden van het Congres die in de test werden gebruikt, zijn onder meer Republikeinen en Democraten, mannen en vrouwen en wetgevers van alle leeftijden.

Amazon antwoordde dat bij het gebruik van gezichtsherkenning voor wetshandhavingsactiviteiten, het raadt aan de betrouwbaarheidsdrempel in te stellen op 95 procent of hoger.

Een woordvoerder van Amazon Web Services zei in een verklaring dat de testresultaten verbeterd hadden kunnen worden door de betrouwbaarheidsdrempel te verhogen. Terwijl 80 procent een acceptabele drempel is voor foto's van alledaagse voorwerpen en voorwerpen, het is niet geschikt voor het identificeren van personen met een 'redelijk niveau van zekerheid'.

In haar rapport over haar bevindingen, de ACLU zei dat de standaardinstelling voor het programma 80 procent was en dat Amazon dat niveau aanbeveelt voor gezichtsgebaseerde gebruikersverificatie.

De tool wordt gebruikt voor gezichtsherkenning in arena's buiten de wetshandhaving. Bijvoorbeeld, tijdens het koninklijk huwelijk van prins Harry en Meghan Markle in mei, De Britse omroep Sky News gebruikte Rekognition om beroemdheden te identificeren die Windsor Castle binnenkwamen.

De software is ook door Pinterest gebruikt om afbeeldingen, door winkels om mensen te volgen, om mogelijk onveilige of ongepaste inhoud online te identificeren en om tekst in afbeeldingen te vinden.

Privacy en politie

Amazon is onlangs onder vuur komen te liggen voor het verkopen van de gezichtsherkenningsservice aan wetshandhavingsinstanties vanwege de bezorgdheid dat het zou kunnen worden gebruikt om mensen te volgen in hun dagelijks leven, of bij politieke protesten of in andere situaties waar de meeste mensen nu denken dat ze anoniem zijn.

Vanwege deze zorgen, burgerrechtengroepen, Voorstanders van privacy en zelfs enkele werknemers en aandeelhouders van Amazon hebben CEO Jeff Bezos gevraagd om te stoppen met het toestaan ​​van politie- en federale agentschappen om gezichtsherkenningstechnologie te gebruiken.

De resultaten van de test van de ACLU "demonstreren waarom het Congres zich bij de ACLU zou moeten aansluiten door op te roepen tot een moratorium op het gebruik van gezichtssurveillance door wetshandhavers, " schreef Jacob Sneeuw, een advocaat technologie en burgerlijke vrijheden voor de ACLU van Noord-Californië.

Twee jaar geleden, Amazon heeft de tool voor gezichts- en productherkenning gebouwd om klanten snel in een database met afbeeldingen te laten zoeken en naar overeenkomsten te zoeken. Herkenning vereist dat de gebruiker twee sets afbeeldingen heeft. De eerste is over het algemeen een grote database van bekende personen. De gebruiker dient vervolgens afbeeldingen van een persoon in die de software vervolgens vergelijkt met die in de grote database om te vinden wat volgens hem overeenkomsten zijn.

Snow zei dat het product "agressief" aan de politie is verkocht. Minstens twee agentschappen, een in Orlando, Florida, en een in Washington County, Oregon, zijn momenteel Recognition aan het testen.

De analist die verantwoordelijk is voor het programma van Washington County zegt dat het nooit zou vertrouwen op gezichtsherkenningssoftware om met een potentiële verdachte te praten. veel minder arresteren.

De afdeling stelt helemaal geen vertrouwensdrempel omdat alle beslissingen door mensen worden genomen, zei Chris Adzima, de senior informatiesysteemanalist bij het Washington County Sheriff's Office in Hillsboro, Oregon.

"Als we een beeld hebben van een actief onderzoek, de onderzoeker zal het in ons systeem plaatsen en het systeem zal de top vijf waarschijnlijke resultaten uitspugen. Dan zal de onderzoeker die vijf doornemen om te bepalen of een van deze mogelijke aanwijzingen is, " hij zei.

Zelfs dan, de onderzoeker moet de nodige zorgvuldigheid betrachten, door de naam te laten lopen om te zien of de persoon een strafblad had of bekend contact had met potentiële slachtoffers.

Terwijl Adzima zei dat Washington County veel succes heeft met het gebruik van gezichtsherkenning om mensen te helpen identificeren die uiteindelijk betrokken waren bij misdaden, "bijna geen van hen had een betrouwbaarheidsdrempel van 95 procent, " hij zei.

Gezichtsherkenningstechnologie werd met succes gebruikt om de man te identificeren die was gearresteerd voor de schietpartij op de redactiekamer van Capital Gazette in Baltimore, Maryland.

Maar de ACLU en andere privacyvoorstanders zeggen dat de technologie een inbreuk op de privacy is. En ze zeggen dat het kan worden gebruikt om immigranten of demonstranten op te sporen en te volgen.

In mei, 34 burgerrechtengroepen stuurden een brief naar Amazon-CEO Jeff Bezos, zeggen dat mensen "vrij moeten zijn om over straat te lopen zonder door de overheid in de gaten te worden gehouden".

Diezelfde maand, leden van de Congressional Black Caucus, stuurde ook een brief naar Bezos, die zeiden dat ze last hadden van de "diepgaande negatieve onbedoelde gevolgen" die deze technologie zou kunnen hebben voor Afro-Amerikanen, immigranten zonder papieren en demonstranten.

"De op ras gebaseerde 'blinde vlekken' in kunstmatige intelligentie, vooral die die zich manifesteren in gezichtsherkenningstechnologie, goed gedocumenteerd zijn, ' stond in de brief.

Deze "blinde vlekken" in gezichtsherkenning AI omvatten een incident in 2015 waarbij een Google-fototoepassing foto's van Afro-Amerikaanse gebruikers als "gorilla's" identificeerde en een studie die eerder dit jaar werd vrijgegeven door het Massachusetts Institute of Technology waarin gezichtsherkenningssoftware werd gevonden, gebruikt om het geslacht van een persoon te identificeren, had een foutenpercentage van 0,8 procent voor mannen met een lichte huid en 34,7 procent voor vrouwen met een donkere huid. De studie gebruikte drie verschillende soorten commerciële gezichtsherkenningssoftware.

Zes leden van de Congressional Black Caucus werden verkeerd geïdentificeerd in de Rekognition-test van de ACLU.

Vertegenwoordigers Jimmy Gomez (D-Calif.) en John Lewis (D-Ga.), die beiden ten onrechte werden geïdentificeerd tijdens de test, stuurde donderdag een brief naar Bezos met het verzoek om onmiddellijk bijeen te komen om de "gebreken" van de technologie aan te pakken "om onnauwkeurige resultaten te voorkomen".

©2018 USA Today
Gedistribueerd door Tribune Content Agency, LLC.