Om geavanceerde methoden voor het wijzigen van foto's en video te dwarsbomen, onderzoekers van de NYU Tandon School of Engineering hebben een experimentele techniek gedemonstreerd om afbeeldingen door de hele pijplijn te authenticeren, van aankoop tot levering, met behulp van kunstmatige intelligentie (AI).

Bij testen, deze prototype-beeldverwerkingspijplijn verhoogde de kans op het detecteren van manipulatie van ongeveer 45 procent tot meer dan 90 procent zonder concessies te doen aan de beeldkwaliteit.

Bepalen of een foto of video authentiek is, wordt steeds problematischer. Geavanceerde technieken voor het wijzigen van foto's en video's zijn zo toegankelijk geworden dat zogenaamde 'deep fakes' - gemanipuleerde foto's of video's die opmerkelijk overtuigend zijn en vaak beroemdheden of politieke figuren bevatten - gemeengoed zijn geworden.

Pawel Korus, een onderzoeksassistent-professor bij de afdeling Computer Science and Engineering aan de NYU Tandon, pionierde met deze aanpak. Het vervangt de typische pijplijn voor fotoontwikkeling door een neuraal netwerk - een vorm van AI - dat zorgvuldig vervaardigde artefacten rechtstreeks in het beeld introduceert op het moment van beeldacquisitie. Deze artefacten, verwant aan "digitale watermerken, " zijn extreem gevoelig voor manipulatie.

"In tegenstelling tot eerder gebruikte watermerktechnieken, deze AI-geleerde artefacten kunnen niet alleen het bestaan ​​van fotomanipulaties onthullen, maar ook hun karakter, ' zei Korus.

Het proces is geoptimaliseerd voor inbedding in de camera en is bestand tegen beeldvervorming die wordt toegepast door online services voor het delen van foto's.

De voordelen van het integreren van dergelijke systemen in camera's zijn duidelijk.

"Als de camera zelf een beeld produceert dat gevoeliger is voor manipulatie, eventuele aanpassingen zullen met grote waarschijnlijkheid worden gedetecteerd, " zei Nasir Memon, een professor in computerwetenschappen en techniek aan NYU Tandon en co-auteur, met Korus, van een document waarin de techniek wordt beschreven. "Deze watermerken kunnen de nabewerking overleven, maar ze zijn nogal kwetsbaar als het gaat om modificatie:als je de afbeelding verandert, het watermerk breekt, ' zei Memo.

De meeste andere pogingen om de authenticiteit van afbeeldingen te bepalen, onderzoeken alleen het eindproduct - een notoir moeilijke onderneming.

Korus en Memon, daarentegen, redeneerde dat moderne digitale beeldvorming al afhankelijk is van machine learning. Elke foto die met een smartphone wordt gemaakt, ondergaat vrijwel onmiddellijke verwerking om zich aan te passen aan weinig licht en om beelden te stabiliseren, die beide plaatsvinden met dank aan AI aan boord. In de komende jaren, AI-gestuurde processen zullen waarschijnlijk de traditionele digitale beeldverwerkingspijplijnen volledig vervangen. Terwijl deze overgang plaatsvindt, Memon zei dat "we de mogelijkheid hebben om de mogelijkheden van apparaten van de volgende generatie drastisch te veranderen als het gaat om beeldintegriteit en authenticatie. Beeldpijplijnen die zijn geoptimaliseerd voor forensisch onderzoek kunnen helpen om een ​​element van vertrouwen te herstellen in gebieden waar de grens tussen echt en nep kan moeilijk zijn om met vertrouwen te tekenen."

Korus en Memon merken op dat hoewel hun aanpak veelbelovend is bij het testen, er is extra werk nodig om het systeem te verfijnen. Deze oplossing is open-source en is toegankelijk via github.com/pkorus/neural-imaging.

De onderzoekers presenteren hun paper, "Content Authentication voor Neural Imaging Pipelines:end-to-end optimalisatie van fotoherkomst in complexe distributiekanalen, " op de conferentie over computervisie en patroonherkenning in Long Beach, Californië, in juni.