Lauren Rhue onderzoekt de snelle wereld van kunstmatige intelligentie en machine learning-technologie. Maar ze wil dat iedereen erin langzamer gaat.

Rhue, een assistent-professor informatiesystemen aan de Robert H. Smith School of Business van de Universiteit van Maryland, heeft onlangs de technologie voor emotieherkenning gecontroleerd binnen drie gezichtsherkenningsservices:Amazon Rekognition, Face++ en Microsoft. Haar onderzoek onthulde wat Rhue "echt grimmige" raciale ongelijkheden noemde.

Amazon Rekognition wordt aangeboden voor gebruik aan andere bedrijven. Face++ wordt gebruikt bij identiteitsverificatie. Microsoft is van plan om dit jaar te stoppen met het gebruik van gezichtsherkenningstechnologie, inclusief de tools voor emotieherkenning.

Rhue verzamelde foto's van zwart-witte NBA-spelers uit het seizoen 2016 en controleerde de mate waarin ze lachten. Vervolgens heeft ze die foto's door de gezichtsherkenningssoftware gehaald.

Over het algemeen gaven de modellen meer negatieve emoties aan zwarte spelers, ontdekte Rhue. Bovendien, als de spelers dubbelzinnige gezichtsuitdrukkingen hadden, was de kans groter dat de zwarte spelers een negatieve gezichtsuitdrukking hadden, terwijl witte spelers eerder "het voordeel van de twijfel kregen".

"Ik denk dat we allemaal een stap terug moeten doen en denken:moeten we gezichten op deze manier analyseren?" zei Rhue.

Rhue, 39, is niet de eerste die raciale ongelijkheid in AI-systemen onderzoekt. Zo heeft MIT-student Joy Buolamwini TED Talks gegeven over haar ervaring met gezichtsanalysesoftware die haar gezicht niet kon detecteren omdat het algoritme niet was gecodeerd om een ​​breed genoeg scala aan huidtinten en gezichtsstructuren te identificeren.

"Met het huidige enthousiasme voor AI lijkt het nodig om een ​​model te maken voor alles waar je een model voor kunt maken", zegt Rhue. "Maar ik zou graag wat meer een pauze en reflectie zien over:'Hebben we dit nodig? Wat brengt het op tafel?'"

Het gebruik van gezichtsherkenningstechnologie breidt zich uit. De haven van Baltimore gebruikt gezichtsherkenningstechnologie om de identiteit van uitstappende passagiers te verifiëren. HireVue, gevestigd in Utah, voert video-interviews uit voor potentiële werknemers en beoordeelt de gezichten en emoties van kandidaten als onderdeel van de kandidatuuranalyse. AI is ingezet om emoties en lichaamstaal te scannen om potentiële bedreigingen in menigten te vinden.

Sommige staten beperken het gebruik van AI. Californië overweegt bijvoorbeeld het gebruik van AI voor het screenen van sollicitanten te beperken om 'discriminerende gevolgen' te voorkomen. In Illinois moeten werkgevers bekendmaken wanneer ze AI-tools gebruiken tijdens video-interviews. Maryland heeft een soortgelijke wet.

En afgelopen zomer heeft de gemeenteraad van Baltimore tot december een moratorium ingesteld op het gebruik van gezichtsherkenningstechnologie, waardoor de politie wordt vrijgesteld.

En terwijl AI doorsijpelt in alle delen van de samenleving, wil Rhue gewoon dat mensen - en bedrijven - even stilstaan ​​en nadenken over de langetermijneffecten.

"Dit soort systemen worden steeds meer ingebed in onze technologie, we zijn ons er niet altijd van bewust. We zijn ons er niet altijd van bewust hoe ze worden gebruikt," zei Rhue. "En ik denk dat het belangrijk is om het potentieel voor vooringenomenheid te begrijpen. En dan is de compensatie van mijn onderzoek kijken naar menselijk ingrijpen om te zien of dat het beter maakt, of mensen die vooringenomenheid kunnen compenseren."

Rhue merkte op dat er in elke situatie een combinatie van AI-tools en menselijke tussenkomst nodig is om vooringenomenheid te verminderen. Ze wil de "negatieve, onbedoelde gevolgen" voor zijn.

En ze denkt dat de rest van haar vakgebied dat soort werk ook prioriteit begint te geven. Ze zei dat de dood van George Floyd door toedoen van de politie en de daaropvolgende oproepen tot raciale rechtvaardigheid in 2020 hebben geleid tot een interesse in het begrijpen van de strijd van gemarginaliseerde gemeenschappen en hoe technologie inclusie kan bevorderen.

Jui Ramaprasad, universitair hoofddocent informatiesystemen aan de business school van Maryland, werkt samen met Rhue en kent haar al sinds ze een doctoraatsstudent was aan de New York University. Ze zei dat het werk dat Rhue doet op het gebied van vooringenomenheid in machine learning een van "de meest impactvolle werkzaamheden" in hun vakgebied is.

"Ik denk dat ze werk doet waar ze om geeft, omdat het haar raakt, het beïnvloedt mensen in de gemeenschap," zei Ramaprasad. "Ik denk dat het heel moeilijk is om de persoon te zijn die het werk doet als je ook een persoon bent die wordt geconfronteerd met die vooroordelen of discriminatie in de omgeving waarin we leven en werken."

Ondanks de ongelijkheden die ze heeft ontdekt, gelooft Rhue dat technologie voorgoed kan worden gebruikt. Zo heeft Rhue onderzoek gedaan naar crowdfunding op digitale platforms met een focus op Kickstarter, dat campagnes samenstelt op basis van de interesse van het personeel. In een poging om de projecten van zwarte makers te benadrukken, ontdekte ze dat het gebruik van voorspellende modellen in plaats van te vertrouwen op subjectieve menselijke analyses de aanbevelingspercentages voor zwarte projecten verhoogde zonder het succespercentage te verlagen.

"Ik denk dat er zoveel potentieel is voor technologie om echt een positieve impact te hebben op inclusie, en met name financiële inclusie", zei Rhue.

Naast haar onderzoek geeft Rhue les in datavisualisatie aan bachelor- en masterstudenten. Ze doceerde eerder aan de Wake Forest University.

Rhue zei dat ze de impact kan zien die ze maakt in de klas. Ze heeft studenten laten vertellen dat ze de enige zwarte professor is die ze ooit hebben gehad. En anderen hebben haar verteld dat ze hun eigen Ph.D. omdat ze het mogelijk maakte.

Will Hawks is een assistent-professor management aan de Nova Southeastern University Florida. Daarvoor was hij een leerling van Rhue in Wake Forest.

Hoewel Rhue niet zijn eerste zwarte professor was - Hawks studeerde eerder aan de Florida A&M University, een historisch zwarte instelling - maakte het zien van haar op de campus nog steeds indruk.

"Om iemand te zien die eruitziet alsof je dingen bereikt waarvan je denkt dat ze niet kunnen worden bereikt - het is het onmogelijke dat werkelijkheid wordt", zei Hawks. "Als zwarte, mannelijke professor in dezelfde branche nu... betekent onze aanwezigheid zoveel meer voor hen. En ik weet het omdat ik in hun schoenen heb gestaan."

Hawks noemde Rhue een "game changer" voor hem. Hij heeft sinds zijn afstuderen contact met haar gehouden; hij stak zijn hand uit toen hij solliciteerde naar academische banen en nodigde haar onlangs zelfs uit om samen met hem onderzoek te doen naar haatmisdrijven die bekend staan ​​als 'Zoombombardementen' en hoe deze incidenten organisaties en mensen treffen. Hawks gelooft dat Rhue de loop van zijn leven heeft veranderd.

'Je zou nu niet met dr. Will Hawks praten als ik dr. Rhue niet had gekruist,' zei Hawks. + Verder verkennen

Technologie voor het lezen van emoties faalt in de test voor raciale vooroordelen

2022 Baltimore zon.
Verdeeld door Tribune Content Agency, LLC.