Een nieuw rapport van het Human Technology Institute van de University of Technology Sydney (UTS) schetst een modelwet voor gezichtsherkenningstechnologie om te beschermen tegen schadelijk gebruik van deze technologie, maar ook om innovatie voor algemeen nut te bevorderen.

De Australische wet is niet opgesteld met het wijdverbreide gebruik van gezichtsherkenning in gedachten. Onder leiding van UTS Industry Professors Edward Santow en Nicholas Davis, beveelt het rapport hervorming aan om de Australische wetgeving te moderniseren, met name om bedreigingen voor privacy en andere mensenrechten aan te pakken.

Gezichtsherkenning en andere biometrische technologieën op afstand zijn de afgelopen jaren exponentieel gegroeid, wat aanleiding geeft tot bezorgdheid over de privacy, massale surveillance en oneerlijkheid die vooral mensen van kleur en vrouwen ervaren wanneer de technologie fouten maakt.

In juni 2022 onthulde een onderzoek door consumentenbelangengroep CHOICE dat verschillende grote Australische retailers gezichtsherkenning gebruikten om klanten te identificeren die hun winkels binnenkwamen, wat leidde tot aanzienlijk alarm in de gemeenschap en oproepen tot verbeterde regelgeving. Er zijn ook wijdverbreide oproepen geweest voor hervorming van de gezichtsherkenningswet, zowel in Australië als internationaal.

Dit nieuwe rapport geeft gehoor aan die oproepen. Het erkent dat onze gezichten speciaal zijn, in die zin dat mensen sterk afhankelijk zijn van elkaars gezichten om elkaar te identificeren en met elkaar om te gaan. Dit vertrouwen maakt ons bijzonder kwetsbaar voor mensenrechtenbeperkingen wanneer deze technologie wordt misbruikt of te veel wordt gebruikt.

"Wanneer gezichtsherkenningstoepassingen goed zijn ontworpen en gereguleerd, kunnen er echte voordelen zijn, waardoor mensen efficiënt en op grote schaal kunnen worden geïdentificeerd. De technologie wordt veel gebruikt door mensen die blind zijn of een visuele beperking hebben, waardoor de wereld toegankelijker wordt voor die groepen ', zegt professor Santow, de voormalige Australische mensenrechtencommissaris en nu mededirecteur van het Human Technology Institute.

"Dit rapport stelt een op risico's gebaseerde modelwet voor gezichtsherkenning voor. Het uitgangspunt moet zijn om ervoor te zorgen dat gezichtsherkenning wordt ontwikkeld en gebruikt op een manier die de fundamentele mensenrechten van mensen eerbiedigt," zei hij.

"De lacunes in onze huidige wetgeving hebben geleid tot een soort regelgevend marktfalen. Veel gerespecteerde bedrijven hebben zich teruggetrokken uit het aanbieden van gezichtsherkenning omdat consumenten niet goed worden beschermd. De bedrijven die nog steeds op dit gebied aanbieden, hoeven zich niet te concentreren op de basisrechten van mensen die door deze technologie worden getroffen", zegt professor Davis, een voormalig lid van het uitvoerend comité van het World Economic Forum in Genève en mededirecteur van het Human Technology Institute.

"Veel maatschappelijke organisaties, regerings- en intergouvernementele instanties en onafhankelijke deskundigen hebben alarm geslagen over de gevaren die samenhangen met het huidige en voorspelde gebruik van gezichtsherkenning", zei hij.

Dit rapport roept de Australische procureur-generaal Mark Dreyfus op om een ​​nationaal hervormingsproces voor gezichtsherkenning te leiden. Dit zou moeten beginnen met het indienen van een wetsvoorstel bij het Australische parlement op basis van de modelwet die in het rapport wordt uiteengezet.

Het rapport beveelt ook aan om regelgevende verantwoordelijkheid toe te wijzen aan het Office of the Australian Information Commissioner om de ontwikkeling en het gebruik van deze technologie in de federale jurisdictie te reguleren, met een geharmoniseerde aanpak in de staats- en territoriumjurisdicties.

De modelwet beschrijft drie niveaus van risico's voor de mensenrechten voor personen die worden getroffen door het gebruik van een bepaalde toepassing van gezichtsherkenningstechnologie, evenals risico's voor de bredere gemeenschap.

Volgens de modelwet moet iedereen die gezichtsherkenningstechnologie ontwikkelt of toepast, eerst het niveau van mensenrechtenrisico inschatten dat van toepassing is op hun toepassing. Die beoordeling kan vervolgens worden aangevochten door burgers en de toezichthouder.

Op basis van de risicobeoordeling stelt de modelwet vervolgens een cumulatieve set van wettelijke vereisten, beperkingen en verboden vast.

Het rapport, Facial Recognition Technology:richting een modelwet, is mede-auteur van prof. Nicholas Davis, prof. Edward Santow en Lauren Perry van het Human Technology Institute, UTS. + Verder verkennen

Oakland, Californië, verbiedt stad om gezichtsherkenningstechnologie te gebruiken