Facebook heeft de de-identificatie van mensen in video's ontdekt. Wacht, Facebooken? Worden sociale platforms niet vaak bekritiseerd vanwege privacyrechten? Niet deze keer, in ieder geval niet in de zalen van Facebook AI Research.

Oran Gafni, een lid van het team dat werkte aan het beschermen van gezichten tegen herkenningssystemen, een filmpje gepost, "De-identificatie videovoorbeelden" op 15 oktober. Gafni, een onderzoeksingenieur in Facebook AI Research, heeft elektrotechnische diploma's van de Universiteit van Tel-Aviv, onder supervisie van Prof. Lior Wolf. Gafni's proefschrift was gericht op live semantische gezichtsbewerking in video, met behulp van diepe, vijandige auto-encoders.

Hun paper waarin hun werk wordt besproken, is getiteld 'Live Face De-Identification in Video'. Auteurs zijn Gafni en Lior Wolf, met verklaarde voorkeuren van Facebook AI Research en de Universiteit van Tel-Aviv, en Yaniv Tagman, Facebook AI-onderzoek.

Khari Johnson in VentureBeat begrepen waarom het onderzoek ertoe doet. "Startups zoals D-ID en een aantal eerdere werken hebben de-identificatietechnologie gemaakt voor stilstaande beelden, maar dit is de eerste die op video werkt."

De knowhow van Facebook ligt op het gebied van onderzoek. specifiek, dit is Facebook AI-onderzoek, en de groep heeft geen plannen, een woordvoerder vertelde VentureBeat , "om de technologie op dit moment toe te passen op elk deel van de Facebook-familie van apps."

Facebook, Hoewel, kunnen profiteren van pogingen om anonimiteit te verdedigen.

Johnson wees op de recente controverse over toepassingen van gezichtsherkenningstechnologie. Facebook wordt geconfronteerd met een dreiging van $ 35 miljard voor een class action-rechtszaak, zoals gerapporteerd door nieuwssites, waaronder: TechCrunch .

Hoe het werkt:bij AI draait alles om automatische videomodificatie. De methode brengt een licht vervormde versie op het gezicht van een persoon in kaart, zodat het voor gezichtsherkenningstechnologie moeilijk wordt om een ​​persoon te identificeren.

Johnson zei dat hun methode "een vijandige autoencoder koppelt aan een classificatienetwerk."

Johnson ging verder met een duidelijke beschrijving van wat er aan de hand is:"De AI gebruikt een encoder-decoderarchitectuur om zowel een masker als een afbeelding te genereren. Tijdens de training, het gezicht van de persoon wordt vervormd en vervolgens in het netwerk ingevoerd. Vervolgens genereert het systeem vervormde en onvervormde beelden van het gezicht van een persoon voor uitvoer die in video kunnen worden ingesloten."

Hoe goed werkt het? Onderzoekers probeerden gezichtsherkenningsnetwerken voor de gek te houden en ze waren ervan overtuigd dat ze een zinvolle techniek hadden gevonden. "Onze bijdrage is de enige die geschikt is voor video, inclusief livevideo, en presenteert een kwaliteit die de literatuurmethoden ver overtreft. De aanpak is zowel elegant als opmerkelijk nieuw, een bestaande gezichtsdescriptor gebruiken die is samengevoegd met de inbeddingsruimte, een geleerd masker om te blenden, een nieuw type perceptueel verlies om het gewenste effect te krijgen, naast een paar andere bijdragen."

Bekijk de cijfers in de krant, wat voorbeelden zijn van de identiteitsverschuivingen van hun methode. De auteurs wezen erop dat slechts een minimale wijziging van de afbeelding belangrijk is om de methode geschikt te maken voor video. Ze zeiden dat in hun werk, verandering wordt gemeten met behulp van low- en mid-level features en niet met behulp van normen op de pixels zelf.

Ze waren op de hoogte van onderzoek dat had aangetoond dat beeldverstoringen veroorzaakt door vijandige voorbeelden de kenmerken van het middenniveau vervormden 'waarvan we ons verplichten om ongewijzigd te blijven'.

In een interview met VentureBeat , Wolf zei dat "de autoencoder zodanig is dat hij het gezichtsherkenningsnetwerk moeilijker probeert te maken, en het is eigenlijk een algemene techniek die ook kan worden gebruikt als je een manier wilt genereren om iemands te maskeren, zeggen, stem- of onlinegedrag of enig ander type identificeerbare informatie."

De internationale conferentie over computervisie (ICCV) in Seoel, Zuid-Korea, is een locatie waar de Facebook-onderzoekers werden vermeld om samen met computervisie-experts van over de hele wereld de nieuwste ontwikkelingen te bespreken. Het schema van Seoul zou de presentatie van het team op de tap hebben, "Live gezicht de-identificatie in video."

De samenvatting van hun paper luidt:"We stellen een methode voor voor de-identificatie van gezichten die volledig automatische videomodificatie bij hoge framesnelheden mogelijk maakt. Het doel is om de identiteit maximaal te decoreren terwijl de perceptie (pose, verlichting, en uitdrukking) vast. We bereiken dit door een nieuwe feed-forward encoder-decoder netwerkarchitectuur die afhankelijk is van de representatie op hoog niveau van het gezichtsbeeld van een persoon. Het netwerk is wereldwijd, in die zin dat het niet opnieuw hoeft te worden bijgeschoold voor een bepaalde video of voor een bepaalde identiteit, en het creëert natuurlijk ogende beeldsequenties met weinig vervorming in de tijd."

Tyler Lee in Ubergizmo herkend voor het menselijk oog kan elk verschil tussen de voor- en na-foto's raadselachtig zijn, maar de veranderingen waren genoeg om het systeem te verwarren. Lee zei:"Dit lijkt een soort omgekeerde deepfake waarbij het het gezicht van de persoon zo lichtjes vervormt dat het gezichtsherkenningssystemen kan verwarren, maar behoud tegelijkertijd voldoende van het origineel zodat u, als mens, zal zeker weten wie je ziet."

© 2019 Wetenschap X Netwerk