Mobiele apparaten gebruiken gezichtsherkenningstechnologie om gebruikers te helpen hun telefoons snel en veilig te ontgrendelen, een financiële transactie uit te voeren of toegang te krijgen tot medische dossiers. Maar gezichtsherkenningstechnologieën die een specifieke gebruikersdetectiemethode gebruiken, zijn zeer kwetsbaar voor op deepfake gebaseerde aanvallen die kunnen leiden tot aanzienlijke beveiligingsproblemen voor gebruikers en applicaties, volgens nieuw onderzoek waarbij het Penn State College of Information Sciences and Technology betrokken is.

De onderzoekers ontdekten dat de meeste applicatie-programmeerinterfaces die gebruik maken van gezichtsverificatie - een functie van gezichtsherkenningstechnologie die computervisie gebruikt om de aanwezigheid van een live gebruiker te bevestigen - niet altijd digitaal gewijzigde foto's of video's detecteren van personen die zijn gemaakt om eruit te zien als een live versie van iemand anders, ook wel bekend als deepfakes. Applicaties die deze detectiemaatregelen wel gebruiken, zijn ook aanzienlijk minder effectief in het identificeren van deepfakes dan wat de app-aanbieder beweert.

"In de afgelopen jaren hebben we een aanzienlijke ontwikkeling waargenomen van technologieën voor gezichtsauthenticatie en -verificatie, die zijn ingezet in veel beveiligingskritieke toepassingen", zegt Ting Wang, universitair hoofddocent informatiewetenschappen en technologie en een hoofdonderzoeker van het project. "Ondertussen hebben we ook aanzienlijke vooruitgang gezien in deepfake-technologieën, waardoor het vrij eenvoudig is om live-uitziende gezichtsbeelden en video te synthetiseren tegen weinig kosten. We stellen daarom de interessante vraag:is het mogelijk voor kwaadwillende aanvallers om deepfakes te misbruiken om de gezichtsherkenning voor de gek te houden verificatiesystemen?"

Het onderzoek, dat deze week werd gepresenteerd op het USENIX Security Symposium, is het eerste systematische onderzoek naar de veiligheid van verificatie van de levendigheid van het gezicht in de echte wereld.

Wang en zijn medewerkers ontwikkelden een nieuw door deepfake aangedreven aanvalsraamwerk, LiveBugger genaamd, dat aanpasbare, geautomatiseerde beveiligingsevaluatie van de verificatie van de levendigheid van het gezicht mogelijk maakt. Ze evalueerden zes toonaangevende commerciële programmeerinterfaces voor de verificatie van het gezichtsvermogen. Volgens de onderzoekers kunnen eventuele kwetsbaarheden in deze producten worden overgenomen door de andere apps die ze gebruiken, waardoor mogelijk miljoenen gebruikers worden bedreigd.

Met behulp van deepfake-afbeeldingen en video's die zijn beveiligd uit twee afzonderlijke datasets, probeerde LiveBugger de verificatiemethoden van de gezichtslevendigheid van de apps voor de gek te houden, die tot doel hebben de identiteit van een gebruiker te verifiëren door statische of videobeelden van hun gezicht te analyseren, naar hun stem te luisteren of hun reactie te meten om een ​​actie op commando uit te voeren.

De onderzoekers ontdekten dat alle vier de meest voorkomende verificatiemethoden gemakkelijk konden worden omzeild. Naast het benadrukken hoe hun raamwerk deze methoden omzeilde, stellen ze suggesties voor om de beveiliging van de technologie te verbeteren, waaronder het elimineren van verificatiemethoden die alleen een statisch beeld van het gezicht van een gebruiker analyseren, en het matchen van lipbewegingen met de stem van een gebruiker in methoden die zowel audio als video van een gebruiker.

"Hoewel verificatie van de levendigheid van het gezicht tegen veel aanvallen kan beschermen, vormt de ontwikkeling van deepfake-technologieën een nieuwe bedreiging, waarover tot nu toe weinig bekend is", zegt Changjiang Li, doctoraalstudent informatiewetenschappen en technologie en co-eerste auteur van de publicatie. papier. "Onze bevindingen zijn nuttig voor leveranciers om de kwetsbaarheden van hun systemen op te lossen."

De onderzoekers hebben hun bevindingen gerapporteerd aan de leveranciers wiens applicaties werden gebruikt in het onderzoek, met een sinds de aankondiging van zijn plannen om een ​​deepfake-detectieproject uit te voeren om de opkomende dreiging aan te pakken.

"Gezichtsverificatie is toegepast in veel kritieke scenario's, zoals online betalingen, online bankieren en overheidsdiensten", zegt Wang. "Bovendien is een toenemend aantal cloudplatforms begonnen met het aanbieden van verificatie van de levendigheid van het gezicht als platform-as-a-service, wat de kosten aanzienlijk verlaagt en de drempel voor bedrijven verlaagt om de technologie in hun producten in te zetten. verificatie van de levendigheid is zeer zorgwekkend." + Verder verkennen

Nieuwe methode detecteert deepfake-video's met een nauwkeurigheid tot 99%