Facebook zegt dat het 'deepfake'-video's verbiedt, de valse maar realistische clips gemaakt met kunstmatige intelligentie en geavanceerde tools, omdat het de inspanningen opvoert om online manipulatie te bestrijden. Maar het beleid laat veel mazen in de wet.

Het sociale netwerk zei maandag laat dat het zijn beleid aanscherpt om video's te verwijderen die zijn bewerkt of gesynthetiseerd op manieren die niet duidelijk zijn voor de gemiddelde persoon. en waardoor iemand zou kunnen denken dat het onderwerp van de video iets zei dat hij of zij niet echt zei.

Gemaakt door kunstmatige intelligentie of machine learning, deepfakes combineren of vervangen inhoud om afbeeldingen te maken waarvan het bijna onmogelijk is om te zien dat ze niet authentiek zijn.

"Hoewel deze video's nog steeds zeldzaam zijn op internet, ze vormen een grote uitdaging voor onze industrie en samenleving naarmate het gebruik ervan toeneemt, " Facebook's vice-president van globaal beleidsbeheer, Monika Bickert, zei in een blogpost.

Echter, ze zei dat de nieuwe regels geen parodie of satire bevatten, of clips die zijn bewerkt om de volgorde van woorden te wijzigen. De uitzonderingen onderstrepen de evenwichtsoefening waarmee Facebook en andere sociale-mediadiensten worden geconfronteerd in hun strijd om de verspreiding van online desinformatie en 'nepnieuws' te stoppen, terwijl ze ook de vrijheid van meningsuiting respecteren en beschuldigingen van censuur afweren.

Het Amerikaanse technologiebedrijf worstelt met de vraag hoe het moet omgaan met de opkomst van deepfakes nadat het vorig jaar kritiek kreeg omdat het weigerde een gemanipuleerde video te verwijderen van House Speaker Nancy Pelosi die haar woorden slurpte, die meer dan 3 miljoen keer werd bekeken. Experts zeiden dat de grof bewerkte clip meer een "goedkope nep" was dan een deepfake.

Vervolgens, een paar kunstenaars plaatsten nepbeelden van Facebook-CEO Mark Zuckerberg, waarin hij liet zien dat hij leedvermaak over zijn eenmansoverheersing van de wereld. Ook Facebook liet die clip online. Het bedrijf zei destijds dat geen van beide video's zijn beleid schond.

Het probleem van gewijzigde video's wordt steeds urgenter nu experts en wetgevers proberen te achterhalen hoe te voorkomen dat deepfakes worden gebruikt om de Amerikaanse presidentsverkiezingen in november te verstoren.

Het nieuwe beleid is een "sterk uitgangspunt, " maar gaat niet in op bredere problemen, zei Sam Gregory, programmadirecteur bij Witness, een non-profitorganisatie die werkt aan het gebruik van videotechnologie voor mensenrechten.

"De realiteit is dat er op dit moment niet zoveel politieke deepfakes zijn. Het zijn voornamelijk seksuele beelden zonder wederzijds goedvinden, " en het grotere probleem zijn video's die ofwel zonder context worden getoond of licht zijn bewerkt, die sommigen "ondiepe vervalsingen, " zei hij. Deze omvatten de Pelosi-clip of een clip die vorige week de ronde deed van de Democratische presidentskandidaat Joe Biden, die selectief werd bewerkt om ten onrechte te suggereren dat hij racistische opmerkingen maakte.

Gregorius, wiens groep behoorde tot degenen die feedback gaven aan Facebook voor het beleid, zei dat hoewel de nieuwe regels er op papier sterk uitzagen, er zijn vragen over hoe effectief het bedrijf zal zijn in het blootleggen van synthetische video's.

Facebook heeft deepfake-detecterende algoritmen gebouwd en kan ook kijken naar het gedrag van een account om een ​​idee te krijgen of het de bedoeling is om desinformatie te verspreiden, zodat het bedrijf een voorsprong heeft op gebruikers of journalisten bij het opsporen ervan, zei Gregorius.

Maar die algoritmen zijn niet op grote schaal gebruikt voor deepfakes "in het wild. Dus het is een open vraag hoe effectief detectie zal zijn, " zei hij. "Dit is een algoritmisch soort kat-en-muisspel, waar de vervalsingen beter zullen worden naast de detectie."

Facebook zei alle video's, deepfake of niet, worden ook verwijderd als ze de bestaande normen voor naaktheid schenden, grafisch geweld of haatzaaien. Degenen die niet zijn verwijderd, kunnen nog steeds worden beoordeeld door onafhankelijke externe factcheckers en als ze als onwaar worden beschouwd, worden deze als zodanig gemarkeerd voor mensen die ze proberen te delen of te bekijken, wat volgens Bickert een betere aanpak was dan ze gewoon neer te halen.

"Als we simpelweg alle gemanipuleerde video's zouden verwijderen die door factcheckers als onwaar zijn gemarkeerd, de video's zouden nog steeds elders op het internet of het sociale media-ecosysteem beschikbaar zijn, "Zei Bickert. "Door ze te laten staan ​​en ze als onwaar te bestempelen, we bieden mensen belangrijke informatie en context."

Twitter, wat een ander broeinest is geweest voor verkeerde informatie en gewijzigde video's, zei dat het "in het proces" is van het creëren van een beleid voor "synthetische en gemanipuleerde media, ", waaronder deepfakes en andere gemanipuleerde video's. Het bedrijf heeft om openbare feedback over het probleem gevraagd. De reacties die het overweegt, zijn onder meer het plaatsen van een bericht naast tweets die gemanipuleerd materiaal bevatten. De tweets kunnen ook worden verwijderd als ze misleidend zijn en iemand ernstig letsel toebrengen.

YouTube, In de tussentijd, heeft een beleid tegen "misleidende praktijken", maar lijkt deepfakes niet specifiek te verbieden. Google reageerde dinsdag niet direct op een bericht voor commentaar.

© 2020 The Associated Press. Alle rechten voorbehouden.