In een wereldprimeur, Onderzoekers van de Universiteit van Melbourne hebben een systeem voor kunstmatige intelligentie (AI) ontworpen om de persoonlijkheidskenmerken en fysieke aantrekkelijkheid van mensen te detecteren en weer te geven, uitsluitend op basis van een foto van hun gezicht.

Het systeem, genaamd biometrische spiegel, onderzoekt iemands begrip van AI en hun reactie op de informatie over hun unieke eigenschappen.

Wanneer iemand voor de biometrische spiegel staat, het systeem detecteert binnen enkele seconden een reeks gezichtskenmerken. Vervolgens vergelijkt het de gegevens van de gebruiker met die van duizenden gezichtsfoto's, die werden geëvalueerd op hun psychometrie door een groep crowd-sourced responders.

Biometrische spiegel toont 14 kenmerken, van geslacht, leeftijd en etniciteit naar aantrekkelijkheid, vreemdheid en emotionele stabiliteit. Hoe langer iemand daar staat, hoe persoonlijker de eigenschappen worden.

Het onderzoeksproject, onder leiding van Dr. Niels Wouters van het Centre for Social Natural User Interfaces (SocialNUI) en Science Gallery Melbourne, onderzoekt de zorgen die deze technologie oproept rond toestemming, gegevensopslag en algoritmische vooringenomenheid.

"Met de opkomst van AI en big data, overheid en bedrijven zullen steeds vaker CCTV-camera's en interactieve reclame gebruiken om emoties te detecteren, leeftijd, geslacht en demografie van voorbijgangers, ' zei dokter Wouters.

"Ons onderzoek heeft tot doel uitdagende vragen op te roepen over de grenzen van AI. Het laat gebruikers zien hoe gemakkelijk het is om AI te implementeren die discrimineert op onethische of problematische manieren die maatschappelijke gevolgen kunnen hebben. Door het debat over privacy en massa-surveillance aan te moedigen, we hopen bij te dragen aan een beter begrip van de ethiek achter AI."

Biometrische spiegel benadrukt de mogelijke gevolgen van algoritmische vooringenomenheid en aannames.

"Hoewel het verzamelen van persoonlijke informatie over uw winkelvoorkeuren om een ​​individuele service aan te passen, onschuldig lijkt, het vastleggen van deze informatie zonder toestemming maakt het onmogelijk om te weten of een voorspelling is gebaseerd op correcte gegevens, ' zei dokter Wouters.

"Het gebruik van AI is een hellend vlak dat verder gaat dan winkelen en adverteren. Stel je voor dat je geen controle hebt over een algoritme dat je ten onrechte ongeschikt acht voor managementfuncties, niet in aanmerking komen voor universitaire graden, of uw foto openbaar deelt zonder uw toestemming.

"Een van je eigenschappen is gekozen - zeg, uw verantwoordelijkheidsniveau - en Biometrische Spiegel vraagt ​​u zich voor te stellen dat deze informatie nu wordt gedeeld met uw verzekeraar of toekomstige werkgever, "Zei Dr. Wouters. "Dit project is een transparante demonstratie van de mogelijke gevolgen voor individuen."

Dr. Wouters zei dat het belangrijk was op te merken dat Biometrische Spiegel geen hulpmiddel is voor psychologische analyse.

"Biometrische spiegel berekent alleen de geschatte publieke perceptie van gezichtsuitdrukking, " hij zei.

"Het wordt beperkt door zijn onnauwkeurigheid, omdat slechts een relatief kleine en crowd-sourced dataset het ontwerp ervan heeft beïnvloed. Het is ongepast om zinvolle conclusies te trekken over psychologische toestanden van Biometrische Spiegel."