De recente virale "deepfake" video van Mark Zuckerberg die verklaart:"wie de gegevens beheert, controleert de wereld" was geen bijzonder overtuigende imitatie van de Facebook-CEO, maar het was spectaculair succesvol in het vestigen van de aandacht op de dreiging van digitale mediamanipulatie.

Hoewel fotografische vervalsingen al bestaan ​​sinds het begin van de fotografie, het recentere gebruik van deep learning kunstmatige-intelligentietechnieken (de "deep" in deepfakes) leidt tot de creatie van steeds geloofwaardiger computersimulaties.

De Zuckerberg-video trok online aandacht, zowel omdat het het technische wonderkind bevatte dat gedeeltelijk verantwoordelijk is voor het overspoelen van de wereld met nepnieuws, en omdat het de technologie benadrukte die het probleem zeker zal verergeren.

'Valse positieven' zijn niet het enige probleem

We hebben de pijn en tragedie gezien die virale leugens kunnen veroorzaken, van de pesterijen van ouders die kinderen verloren bij de schietpartij in Sandy Hook, om moorden te plegen in India en elders.

Deepfakes, wij maken ons zorgen, zal het probleem alleen maar verergeren. Wat als ze worden gebruikt om iemand valselijk bij een moord te betrekken? Om valse bevelen te geven aan troepen op het slagveld? Of om een ​​gewapend conflict aan te wakkeren?

We zouden dergelijke gebeurtenissen kunnen omschrijven als de "false positives" van diepe fakery:gebeurtenissen die leken te gebeuren, maar deed het niet. Anderzijds, er zijn de "valse negatieven":gebeurtenissen die hebben plaatsgevonden, maar die het risico lopen te worden afgedaan als een zoveelste nep.

Denk aan de bewering van de Amerikaanse president Donald Trump dat de stem op de beruchte Access Hollywood-tape, waarin hij opschept over betastende vrouwen, was niet van hemzelf. Trump heeft er een politieke specialiteit van gemaakt om mensen te vragen hun ogen of oren niet te geloven. Hij misleidde mensen ongeveer zo groot als het publiek bij zijn inauguratie, en zei dat hij Meghan Markle niet "smerig" noemde in een interview toen hij dat deed.

Deze strategie werkt door alle gemedieerde bewijzen in twijfel te trekken. Dat is, alles wat we niet direct zelf ervaren, en zelfs veel van wat we doen voor zover het niet door anderen wordt gedeeld.

Waar het om gaat, is ons vermogen om waarheden aan elkaar te communiceren en daarover een consensus te bereiken. Deze inzetten zijn inderdaad hoog, omdat democratie afhankelijk is van de doeltreffendheid van het spreken van de waarheid aan de macht. Indien, als de bewaker zet het, "Deepfakes zijn waar de waarheid sterft, ’ dan dreigen ze de publieke verantwoording mee naar beneden te nemen.

Meer toezicht is niet het antwoord

Omdat het een technologisch probleem lijkt te zijn, het is verleidelijk om te mikken op technologische, in plaats van sociaal of politiek, oplossingen. Typisch, deze voorgestelde oplossingen nemen de vorm aan van verbeterde verificatie, wat een steeds uitgebreider toezicht met zich meebrengt.

Een idee is om elke camera automatisch afbeeldingen te laten labelen met een unieke digitale handtekening. Hierdoor zouden beelden kunnen worden herleid tot het apparaat waarmee ze zijn gemaakt, en, in het geval van netwerkapparaten, aan de gebruiker of eigenaar. Een commentator beschreef dit als "de droom van een toezichtstaat".

Of we stellen ons een wereld voor waarin de gebouwde omgeving doordrongen is van meerdere camera's, constant een "gedeelde" realiteit vastleggen en construeren die kan worden gebruikt om nepvideo's te ontmaskeren zodra ze verschijnen. Dit zou niet alleen de droom zijn van een toezichtstaat, maar zijn fantasie werd gerealiseerd.

Het feit dat dergelijke oplossingen niet alleen dystopisch zijn, maar slagen er ook niet in om het probleem effectief aan te pakken (aangezien handtekeningen kunnen worden vervalst, en de "officiële" versie van de werkelijkheid kan worden afgedaan als de zoveelste nep), maakt ons niet minder waarschijnlijk om ze te achtervolgen.

De extra tekortkoming van dergelijke oplossingen is dat ze ervan uitgaan dat mensen en platforms die valse informatie circuleren, de waarheid zullen uitstellen wanneer ze ermee worden geconfronteerd.

Mensen geloven wat ze willen geloven

We kennen social media platforms, totdat ze verantwoordelijk worden gehouden voor het verifiëren van de informatie die ze verspreiden, een stimulans hebben om te promoten wat de meeste aandacht krijgt, ongeacht de authenticiteit ervan. We zijn terughoudender om toe te geven dat hetzelfde geldt voor mensen.

In de online aandachtseconomie het zijn niet alleen de platforms die profiteren van de circulerende sensationele desinformatie, het zijn ook de mensen die ze gebruiken.

Neem het geval van de in Londen gevestigde islamitische journalist Hussein Kesvani. Kesvani vertelt over de tijd dat hij een Twitter-trol met de naam "True Brit" opspoorde die hem had doorspekt met islamofobe opmerkingen en memes. Na een regelmatig online gesprek te hebben gevoerd met zijn online antagonist, Kesvani was in staat om een ​​persoonlijk interview met hem te krijgen.

Hij vroeg True Brit waarom hij bereid was aantoonbaar valse feiten te verspreiden, beweert, en verkeerd gelabelde en misleidende afbeeldingen. Echte Brit schudde de vraag van zich af, gezegde, "Je weet tegenwoordig niet wat waar is of niet, hoe dan ook." Hij gaf niet om de letterlijke waarheid, alleen over de "diepere" emotionele waarheid van de beelden, die volgens hem zijn vooroordelen bevestigde.

Verificatiestrategieën kunnen nuttig zijn om de surveillancemaatschappij op te voeren, maar ze zullen weinig kopen bij de echte Britten van de wereld die bereid zijn om deepfakes te omarmen en te verspreiden omdat ze geloven dat hun leugens diepere waarheden bevatten. Het probleem ligt niet alleen in de technologie, maar in de gedegradeerde versie van het burgerleven waarop sociale-mediaplatforms gedijen.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.