Elke keer dat u een foto of video uploadt naar een social media-platform, zijn gezichtsherkenningssystemen leren iets meer over jou. Deze algoritmen nemen gegevens op over wie u bent, uw locatie en mensen die u kent, en ze verbeteren voortdurend.

Naarmate de bezorgdheid over privacy en gegevensbeveiliging op sociale netwerken toeneemt, U of T Engineering-onderzoekers onder leiding van professor Parham Aarabi en afgestudeerde student Avishek Bose hebben een algoritme ontwikkeld om gezichtsherkenningssystemen dynamisch te verstoren.

"Persoonlijke privacy is een reëel probleem naarmate gezichtsherkenning steeds beter wordt, "zegt Aarabi. "Dit is een manier waarop nuttige anti-gezichtsherkenningssystemen dat vermogen kunnen bestrijden."

Hun oplossing maakt gebruik van een diepgaande leertechniek die tegengestelde training wordt genoemd, die twee kunstmatige intelligentie-algoritmen tegen elkaar plaatst. Aarabi en Bose ontwierpen een set van twee neurale netwerken:de eerste die gezichten identificeert, en de tweede werkt om de gezichtsherkenningstaak van de eerste te verstoren. De twee vechten voortdurend en leren van elkaar, het opzetten van een voortdurende AI-wapenwedloop.

Het resultaat is een Instagram-achtig filter dat op foto's kan worden toegepast om de privacy te beschermen. Hun algoritme verandert zeer specifieke pixels in de afbeelding, veranderingen aanbrengen die bijna niet waarneembaar zijn voor het menselijk oog.

"De ontwrichtende AI kan 'aanvallen' waar het neurale netwerk voor gezichtsdetectie naar op zoek is, " zegt Bose. "Als de detectie-AI in de ooghoeken zoekt, bijvoorbeeld, het past de ooghoeken aan zodat ze minder opvallen. Het zorgt voor zeer subtiele verstoringen in de foto, maar voor de detector zijn ze belangrijk genoeg om het systeem voor de gek te houden."

Aarabi en Bose hebben hun systeem getest op de 300-W gezichtsdataset, een industriestandaard pool van meer dan 600 gezichten met een breed scala aan etniciteiten, lichtomstandigheden en omgevingen. Ze toonden aan dat hun systeem het aandeel gezichten dat oorspronkelijk detecteerbaar was, kon verminderen van bijna 100 procent tot 0,5 procent.

"De sleutel hier was om de twee neurale netwerken tegen elkaar te trainen - waarbij één een steeds robuuster gezichtsdetectiesysteem creëerde, en de andere creëert een steeds sterker hulpmiddel om gezichtsdetectie uit te schakelen, " zegt Bos, de hoofdauteur van het project. De studie van het team zal later deze zomer worden gepubliceerd en gepresenteerd tijdens de IEEE International Workshop on Multimedia Signal Processing 2018.

Naast het uitschakelen van gezichtsherkenning, de nieuwe technologie verstoort ook zoeken op basis van afbeeldingen, kenmerk identificatie, schatting van emoties en etniciteit, en alle andere op gezichten gebaseerde kenmerken die automatisch kunnen worden geëxtraheerd.

Volgende, het team hoopt het privacyfilter publiekelijk beschikbaar te maken, hetzij via een app of een website.

"Tien jaar geleden moesten deze algoritmen door mensen worden gedefinieerd, maar nu leren neurale netwerken vanzelf - je hoeft ze niets anders te geven dan trainingsgegevens, "zegt Aarabi. "Uiteindelijk kunnen ze echt geweldige dingen doen. Het is een fascinerende tijd in het veld, er is een enorm potentieel."