Met een korte blik op een enkel gezicht, opkomende gezichtsherkenningssoftware kan nu het geslacht van veel mannen en vrouwen met opmerkelijke nauwkeurigheid categoriseren.

Maar als dat gezicht van een transgender is, dergelijke systemen gaan meer dan een derde van de tijd fout, volgens nieuw onderzoek van de University of Colorado Boulder.

"We ontdekten dat gezichtsanalysediensten consequent slechter presteerden bij transgenders, en waren universeel niet in staat om niet-binaire geslachten te classificeren, " zei hoofdauteur Morgan Klaus Scheuerman, een doctoraat student bij de afdeling Informatica. "Hoewel er veel verschillende soorten mensen zijn, deze systemen hebben een extreem beperkt beeld van hoe gender eruit ziet."

Het onderzoek komt op een moment dat technologieën voor gezichtsanalyse - die verborgen camera's gebruiken om bepaalde kenmerken van een persoon te beoordelen en te karakteriseren - steeds gangbaarder worden, ingebed in alles, van dating-apps voor smartphones en digitale kiosken in winkelcentra tot beveiligingssystemen op luchthavens en bewakingssystemen voor wetshandhaving.

Eerder onderzoek suggereert dat ze het meest nauwkeurig zijn bij het beoordelen van het geslacht van blanke mannen, maar identificeer vrouwen van kleur maar liefst een derde van de tijd.

"We wisten dat er inherente vooroordelen waren in deze systemen rond ras en etniciteit en we vermoedden dat er ook problemen zouden zijn rond geslacht, " zei senior auteur Jed Brubaker, een assistent-professor Informatica. "We wilden dit in de echte wereld testen."

Onderzoekers verzamelden 2, 450 afbeeldingen van gezichten van Instagram, die elk door de eigenaar waren gelabeld met een hashtag die hun genderidentiteit aangeeft. De foto's werden vervolgens verdeeld in zeven groepen van 350 afbeeldingen (#women, #Mens, #transvrouw, #transman, #gender, #agenderqueer, #nonbinary) en geanalyseerd door vier van de grootste aanbieders van gezichtsanalysediensten (IBM, Amazone, Microsoft en Clarifai).

Opmerkelijk, Google was niet opgenomen omdat het geen diensten voor genderherkenning biedt.

Gemiddeld, de systemen waren het meest nauwkeurig met foto's van cisgender-vrouwen (zij die als vrouwelijk werden geboren en zich als vrouwelijk identificeerden), 98,3% van de tijd hun geslacht goed krijgen. Ze categoriseerden cisgender mannen nauwkeurig 97,6% van de tijd.

Maar tot 38% van de tijd werden transmannen ten onrechte als vrouw geïdentificeerd.

En degenen die zich als agender identificeerden, genderqueer of niet-binair - wat aangeeft dat ze zich niet als mannelijk of vrouwelijk identificeren - werden 100 procent van de tijd verkeerd gekarakteriseerd.

"Deze systemen kennen geen andere taal dan mannelijk of vrouwelijk, dus voor veel genderidentiteiten is het niet mogelijk dat ze correct zijn, ’ zegt Brubaker.

De studie suggereert ook dat dergelijke diensten gender identificeren op basis van verouderde stereotypen.

Toen Scheuerman, die een man is en lang haar heeft, zijn eigen foto ingestuurd, de helft categoriseerde hem als vrouw.

De onderzoekers konden geen toegang krijgen tot de trainingsgegevens, of beeldinvoer die wordt gebruikt om het systeem te "leren" hoe mannelijk en vrouwelijk eruit ziet, maar eerder onderzoek suggereert dat ze zaken als oogpositie beoordelen, lip volheid, haarlengte en zelfs kleding.

"Deze systemen lopen het risico stereotypen te versterken van hoe je eruit zou moeten zien als je erkend wilt worden als man of vrouw. En dat heeft gevolgen voor iedereen, ’ zei Scheuerman.

De markt voor gezichtsherkenningsdiensten zal naar verwachting in 2024 verdubbelen, terwijl technische ontwikkelaars werken aan het verbeteren van de interactie tussen mens en robot en om advertenties beter op kopers te richten. Nu al, Brubaker merkt op, mensen maken elke dag gebruik van gezichtsherkenningstechnologie om toegang te krijgen tot hun smartphones of om in te loggen op hun computers.

Als het de neiging heeft om bepaalde dingen verkeerd te doen, al kwetsbaar, bevolkingsgroepen die ernstige gevolgen kunnen hebben.

Bijvoorbeeld, een app voor het maken van een match kan iemand een afspraakje geven met het verkeerde geslacht, leiden tot een potentieel gevaarlijke situatie. Of een mismatch tussen het geslacht dat een gezichtsherkenningsprogramma ziet en de documentatie die een persoon bij zich heeft, kan leiden tot problemen om door de luchthavenbeveiliging te komen, zegt Scheuerman.

Hij is het meest bezorgd dat dergelijke systemen de noties bevestigen dat transgenders er niet in passen.

"Mensen zien computervisie als futuristisch, maar er zijn veel mensen die buiten deze zogenaamde toekomst zouden kunnen blijven, " hij zei.

De auteurs zeggen dat ze graag zouden zien dat technologiebedrijven helemaal afstappen van genderclassificatie en zich houden aan meer specifieke labels zoals 'lang haar' of 'make-up' bij het beoordelen van afbeeldingen.

"Als je over straat loopt, kijk je misschien naar iemand en neem je aan dat je weet wat hun geslacht is, maar dat is een heel eigenaardig idee uit de jaren '90 en het is niet meer hoe de wereld is, " zei Brubaker. "Naarmate onze visie en ons cultureel begrip van wat gender is, is geëvolueerd. De algoritmen die onze technologische toekomst aansturen, hebben dat niet. Dat is diep problematisch."

Het onderzoek wordt in november gepresenteerd op de ACM Conference on Computer Supported Cooperative Work in Austin, Texas.