Op een middag in ons lab testten mijn collega en ik ons ​​nieuwe prototype voor gezichtsherkenningssoftware op een laptop. De software gebruikte een videocamera om onze gezichten te scannen en onze leeftijd en geslacht te raden. Hij schatte mijn leeftijd correct, maar toen mijn collega, die uit Afrika kwam, het uitprobeerde, herkende de camera helemaal geen gezicht. We hebben geprobeerd de lichten in de kamer aan te doen, haar zitplaats en achtergrond af te stellen, maar het systeem had nog steeds moeite om haar gezicht te detecteren.

Na vele mislukte pogingen detecteerde de software eindelijk haar gezicht, maar kreeg ze een verkeerde leeftijd en gaf ze het verkeerde geslacht.

Onze software was slechts een prototype, maar de moeilijkheid om met donkere huidtinten te werken, weerspiegelt de ervaringen van mensen met een kleur die gezichtsherkenningstechnologie proberen te gebruiken. In de afgelopen jaren hebben onderzoekers de oneerlijkheid van gezichtsherkenningssystemen aangetoond, waarbij ze ontdekten dat de software en algoritmen die zijn ontwikkeld door grote technologiebedrijven nauwkeuriger zijn in het herkennen van lichtere huidtinten dan donkerdere.

Maar onlangs meldde de Guardian dat het Britse ministerie van Binnenlandse Zaken van plan is om migranten die veroordeeld zijn voor strafbare feiten vijf keer per dag hun gezicht te laten scannen met een smartwatch die is uitgerust met gezichtsherkenningstechnologie. Een woordvoerder van het ministerie van Binnenlandse Zaken zei dat gezichtsherkenningstechnologie niet zou worden gebruikt bij asielzoekers die illegaal in het VK aankomen, en dat het rapport over het gebruik ervan bij migrantendelinquenten "puur speculatief" was.

Haal de juiste balans

Er zal altijd een spanning zijn tussen nationale veiligheid en individuele rechten. Beveiliging voor velen kan voor enkelen prioriteit krijgen boven privacy. In november 2015 bijvoorbeeld, toen de terroristische groepering ISIS Parijs aanviel, waarbij 130 mensen omkwamen, vond de Parijse politie een telefoon die een van de terroristen ter plaatse had achtergelaten en las de berichten die erop waren opgeslagen.

Er is veel nuance in deze kwestie. We moeten ons afvragen, wiens rechten worden ingeperkt door een inbreuk op de privacy, in welke mate en wie beoordeelt of een inbreuk op de privacy in evenwicht is met de ernst van een strafbaar feit?

In het geval dat daders meerdere keren per dag foto's van hun gezicht maken, kunnen we stellen dat de schending van de privacy voor de meeste mensen in het belang van de nationale veiligheid is, als het misdrijf ernstig is. De overheid heeft het recht om een ​​dergelijke beslissing te nemen, aangezien zij verantwoordelijk is voor de veiligheid van haar burgers. Voor lichte vergrijpen kan gezichtsherkenning echter een te sterke maatregel zijn.

Het ministerie van Binnenlandse Zaken heeft in haar plan geen onderscheid gemaakt tussen kleine en zware delinquenten; evenmin heeft het overtuigend bewijs geleverd dat gezichtsherkenning de naleving van de immigratiewetgeving door mensen verbetert.

Wereldwijd weten we dat gezichtsherkenning vaker wordt gebruikt om mensen van kleur te controleren door hun bewegingen vaker te controleren dan die van blanke mensen. Dit ondanks het feit dat gezichtsherkenningssystemen nauwkeuriger zijn bij lichtere dan donkere huidtinten.

Een foto van je gezicht maken en deze vijf keer per dag uploaden, kan vernederend aanvoelen. Glitches met donkere huidtinten kunnen het inchecken in het systeem meer dan alleen een frustrerende ervaring maken. Er kunnen ernstige gevolgen zijn voor overtreders als de technologie faalt.

De gebreken in gezichtsherkenning kunnen ook leiden tot nationale veiligheidsproblemen voor de overheid. Het kan bijvoorbeeld het gezicht van de ene persoon ten onrechte als een ander identificeren. Gezichtsherkenningstechnologie is niet klaar voor zoiets belangrijks als nationale veiligheid.

Het alternatief

Een andere optie die de overheid overweegt voor migrantendelinquenten is locatietracering. Elektronisch toezicht houdt al mensen met een strafblad in het VK bij met enkeltags, en het zou logisch zijn om dezelfde technologie in gelijke mate toe te passen op migranten en niet-migranten overtreders.

Locatietracking heeft zijn eigen ethische problemen voor persoonlijke privacy en raciale surveillance. Vanwege de indringende aard van elektronische bewaking, kunnen sommige mensen die deze apparaten dragen, last hebben van depressie, angst of zelfmoordgedachten.

Maar technologie voor het volgen van locaties biedt in ieder geval opties. Gegevens kunnen bijvoorbeeld gevoelig worden behandeld door de richtlijnen voor gegevensprivacy te volgen, zoals de Britse Data Protection Act 2018. We kunnen de hoeveelheid locatiegegevens die we verzamelen minimaliseren door iemands locatie slechts één of twee keer per dag te volgen. We kunnen de gegevens anonimiseren, zodat de namen van mensen alleen zichtbaar zijn wanneer en waar nodig.

Het Britse ministerie van Binnenlandse Zaken zou locatiegegevens kunnen gebruiken om verdachte activiteiten te signaleren, bijvoorbeeld als een overtreder een gebied betreedt waarvan hij is uitgesloten. Voor minderjarige overtreders hoeven we niet de exacte locatie van de persoon te volgen, maar alleen het algemene gebied, zoals een postcode of plaats.

Als samenleving moeten we ernaar streven de waardigheid en privacy van mensen te behouden, behalve in de meest ernstige gevallen. Wat nog belangrijker is, we moeten ervoor zorgen dat technologie niet het potentieel heeft om een ​​groep mensen te discrimineren op basis van hun etniciteit. De wet- en regelgeving moet gelijkelijk van toepassing zijn op alle mensen.

De woordvoerder van het ministerie van Binnenlandse Zaken voegde eraan toe:“Het publiek verwacht dat we toezicht houden op veroordeelde buitenlandse overtreders … Buitenlandse criminelen mogen geen twijfel hebben over onze vastberadenheid om hen uit te zetten, en de regering doet al het mogelijke om het aantal buitenlandse overtreders dat wordt uitgezet te vergroten. " + Verder verkennen

Gezichtsherkenning was de sleutel bij het identificeren van verdachte van schietpartij in de VS

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.