Het gebruik van geautomatiseerde gezichtsherkenningstechnologie (FRT) wordt wereldwijd steeds gebruikelijker, met name in China, het VK en nu Australië.

FRT betekent dat we individuen kunnen identificeren op basis van een analyse van hun geometrische gelaatstrekken, een vergelijking maken tussen een algoritme dat is gemaakt op basis van de vastgelegde afbeelding en een algoritme dat al is opgeslagen, zoals een rijbewijs, voogdijafbeelding of sociale media-account.

FRT heeft tal van toepassingen in de particuliere en publieke sector wanneer identiteitsverificatie nodig is. Deze omvatten toegang tot een beveiligd gebied, een mobiel apparaat ontgrendelen of aan boord gaan van een vliegtuig. Het is ook in staat om de stemmingen van mensen te herkennen, reacties en, blijkbaar, seksualiteit.

En het is waardevoller voor de politie dan gewone CCTV-camera's, omdat het individuen in realtime kan identificeren en aan opgeslagen beelden kan koppelen. Dit is van grote waarde voor de staat in strafrechtelijke onderzoeken, terrorismebestrijdingsoperaties en grenscontrole.

Hoe het van invloed is op het recht op privacy

Maar de inzet van FRT, die al wordt gebruikt door de AFP en de staatspolitie en door particuliere bedrijven elders (luchthavens, sportlocaties, banken en winkelcentra), is ondergereguleerd en gebaseerd op twijfelachtige algoritmen die niet publiekelijk transparant zijn.

Deze technologie heeft grote gevolgen voor de privacyrechten van mensen, en het gebruik ervan kan bestaande vooroordelen en discriminatie in politiepraktijken verergeren.

Het gebruik van FRT tast privacyrechten aan door een algoritme van unieke persoonskenmerken te creëren. Dit reduceert op zijn beurt de kenmerken van mensen tot data en maakt monitoring en surveillance mogelijk. Deze gegevens en afbeeldingen worden ook voor een bepaalde tijd bewaard, het openen van de mogelijkheid van hacking of oplichting.

In aanvulling, FRT kan mensen op twee manieren blootstellen aan mogelijke discriminatie. Eerst, overheidsinstanties kunnen de technologieën misbruiken met betrekking tot bepaalde demografische groepen, al dan niet opzettelijk.

En ten tweede, onderzoek wijst uit dat etnische minderheden, gekleurde mensen en vrouwen worden vaker verkeerd geïdentificeerd door FRT dan de rest van de bevolking. Deze onnauwkeurigheid kan ertoe leiden dat leden van bepaalde groepen worden onderworpen aan hardhandige politie- of beveiligingsmaatregelen en dat hun gegevens op ongepaste wijze worden bewaard.

Dit is met name relevant met betrekking tot gemeenschappen die in Australië al onevenredig het doelwit zijn.

Wat wetgevers proberen te doen?

Het Parlement heeft een wetsvoorstel opgesteld om deze ruimte te reguleren, maar het laat veel te wensen over. Het wetsvoorstel is momenteel in tweede lezing; er is geen datum vastgesteld voor een stemming.

Indien geslaagd, het wetsvoorstel zou de uitwisseling van identiteitsgegevens tussen de regering van het Gemenebest mogelijk maken, staats- en territoriumregeringen en "niet-gouvernementele entiteiten" (die niet zijn gespecificeerd) door de oprichting van een centraal knooppunt genaamd "The Capability", evenals de National Driver License Facial Recognition Solution, een database met informatie in identiteitsdocumenten van de overheid, zoals rijbewijzen.

Het wetsvoorstel zou het ministerie van Binnenlandse Zaken ook machtigen om, identificatie-informatie gebruiken en delen met betrekking tot een reeks activiteiten, zoals fraudepreventie, politie, veiligheid van de gemeenschap, en verkeersveiligheid.

Het zou veel beter zijn als een dergelijke wetgeving het delen van identiteiten alleen toestaat voor een beperkt aantal ernstige strafbare feiten. Zoals geschreven, dit wetsvoorstel heeft betrekking op mensen die niet zijn veroordeeld voor strafbare feiten - en, in feite, hoeft niet van enig strafbaar feit te worden verdacht.

Ook, het Australische volk heeft er niet mee ingestemd dat hun gegevens op deze manier worden gedeeld. Dergelijk delen zou een onevenredig effect hebben op ons recht op privacy.

belangrijk, de schending van het recht op privacy wordt nog verergerd door het feit dat het wetsvoorstel de particuliere sector toegang zou geven tot de diensten voor identiteitsmatching. Hoewel de particuliere sector tot op zekere hoogte al gebruik maakt van beeldvergelijkings- en verificatietechnologieën, bijvoorbeeld door banken die witwassen proberen op te sporen, het wetsvoorstel zou dit verlengen. Het wetsvoorstel biedt onvoldoende waarborgen of sancties voor particuliere entiteiten als zij de hub of de gegevens van personen ongepast gebruiken.

De prevalentie van fout-positieven in identiteitsovereenkomsten

In praktische zin is er zijn ook zorgen over de betrouwbaarheid en nauwkeurigheid van FRT, die zich snel ontwikkelt, maar niet zonder grote problemen is. Of deze problemen slechts bugs zijn of een functie van FRT valt nog te bezien.

De ervaring uit het VK illustreert deze problemen duidelijk. Zuid-Wales politie, de nationale Britse voorsprong op gezichtsherkenningstechnologie, gebruikte het systeem ontwikkeld door een particulier Australisch bedrijf genaamd Neoface op 18 openbare bijeenkomsten tussen mei 2017 en maart 2018. Het ontdekte dat 91% van de matches, of 2, 451 gevallen, ten onrechte onschuldige leden van het publiek als op een volglijst hebben geïdentificeerd. Handmatig toezicht op het programma onthulde dat de wedstrijden vals-positieven waren.

De Londense Metropolitan Police voert ook een FRT-pilot uit. Het boekte iets betere cijfers, maar had nog steeds een vals-negatief identificatiepercentage van 30% op het Notting Hill Carnival en 22% op Remembrance Day, beide in 2017.

De centrale rol van particuliere bedrijven bij de ontwikkeling van deze technologie is ook belangrijk om te markeren. FRT-algoritmen zijn gepatenteerd, en er is geen publiek beschikbare indicatie van de meting of standaard die een identiteits"match" vertegenwoordigt.

Wetgeving in een snel veranderende, technologisch gedreven ruimte is geen benijdenswaardige taak. Een zekere mate van flexibiliteit in wettelijke definities en regels heeft enig voordeel, zodat de wet niet te snel statisch en overbodig wordt. Maar zelfs de meest genereuze interpretatie van het wetsvoorstel zou toegeven dat het een gebrekkige manier is om het gebruik van een krachtige en problematische technologie te reguleren die niet meer weg te denken is, of je het nu leuk vindt of niet.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.