"Deepfake" is de naam die wordt gegeven aan video's die zijn gemaakt met kunstmatig intelligente deep learning-technieken. Ook wel "face-swapping" genoemd, het proces omvat het invoeren van een bronvideo van een persoon in een computer, en vervolgens meerdere afbeeldingen en video's van een andere persoon in te voeren. Het neurale netwerk leert vervolgens de bewegingen en uitdrukkingen van de persoon in de bronvideo om het beeld van de ander erop in kaart te brengen, zodat het lijkt alsof ze de spraak of handeling uitvoeren.

Deze praktijk werd eind 2017 voor het eerst uitgebreid gebruikt bij de productie van neppornografie - waar de gezichten van beroemde vrouwelijke beroemdheden werden verwisseld. Onderzoek heeft consequent aangetoond dat pornografie het voortouw neemt in technologische acceptatie en vooruitgang als het gaat om communicatietechnologieën, van de Polaroid camera naar het internet.

Deepfaking is ook gebruikt om politieke toespraken te manipuleren en te ondermijnen:vroege experimenten met deze technologie door onderzoekers van de Universiteit van Washington gebruikten toespraken van Barack Obama als bronmateriaal, en op het eerste gezicht aannemelijk lijken.

Voorafgaand aan de opkomst van AI-enabled face-swapping in pornografie, soortgelijke principes en technieken waren al goed beproefd in het filmmaken, hoewel door middel van zeer arbeidsintensieve en langdurige processen waarbij enorme teams van filmproductiespecialisten betrokken zijn, apparatuur en software. Neem bijvoorbeeld Furious 7, waarin Paul Walker, de acteur die de hoofdrol speelt, stierf tijdens de productie. Postproductie-experts Weta Digital voltooiden de prestaties van Walker minutieus met behulp van CGI en geavanceerde compositietechnieken.

Nutsvoorzieningen, echter, deep learning en machine vision-technologieën zijn zo ver gevorderd dat de relevante software openbaar toegankelijk is geworden en op een normale computer kan worden gebruikt. Als gevolg hiervan, vrees is terecht geuit. Er zijn zorgen dat deepfakes binnenkort wijdverbreid zullen worden, al onze dagelijkse ontmoetingen verzadigen met bewegende beelden, tot het punt waarop we niet langer kunnen onderscheiden welke video's echt zijn en welke nep.

Een moment terugkijkend door de geschiedenis, en het onderzoeken van de momenten van introductie of popularisering van alle voorgaande nieuwe media - van fotografie tot het world wide web - is hier nuttig. Omdat er altijd een periode van onzekerheid en verwarring is geweest terwijl het publiek worstelt met de schijnbare vervaging van de lijnen tussen hun realiteit en fictie.

De recente opkomst van de "deepfakes"-fenomenen kan worden begrepen binnen dit mediacontinuüm. Het is gewoon de laatste in een reeks van voorbeelden door de geschiedenis heen waar de onderlinge relatie tussen technologie en illusie nauw verweven is.

Een geschiedenis van vervalsing

Neem bijvoorbeeld De aankomst van een trein in La Ciotat, een van de eerste stukken bewegend beeld cinematografie, gemaakt door Auguste en Louis Lumière. Hedendaagse nieuwsberichten beschreven mensen die gillend van het scherm renden toen de snelle stoomtrein hen naderde tijdens de eerste openbare vertoning in Parijs in 1895.

Of de beruchte foto's van Cottingley Fairies, genomen in 1917, die door sommigen al meer dan zes decennia als authentiek werden beschouwd. In de jaren tachtig gaven de daders eindelijk toe dat ze nep waren.

Dan is er de uitzending van het hoorspel uit 1938 van The War of the Worlds, het eerste hoorspel dat de methode van fictieve berichtgeving gebruikte. Kranten meldden dat duizenden Amerikanen hun huizen ontvluchtten toen ze naar het stuk luisterden. Blijkbaar, ze geloofden dat er een Mars-invasie aan de gang was.

In 1999, tijdens de komst van internet, onderzoek toonde aan dat het publiek van The Blair Witch Project oprecht geloofde dat de rapporten van vermiste filmstudenten in een documentaire en de bijbehorende website waar waren.

2007's De waarheid over Marika was een mixed reality transmedia verhaal van een vermiste persoon, Marika. Verslagen van haar verdwijning werden uitgezonden op het Zweedse openbare dienstnetwerk, waardoor sommige delen van het publiek geloven dat dit echt is.

Het AI-mediatijdperk

Hoewel deze gevallen vandaag de dag misschien bedrieglijk zijn, als je erover nadenkt in de context van technologische ontwikkelingen worden ze begrijpelijker. Ze maakten allemaal deel uit van keerpuntmomenten in de evolutie van mediavormen met veel gemeen:ze situeerden allemaal een fictief verhaal in wat oorspronkelijk werd beschouwd als een feitelijke context. Het is ook waar dat alle bijbehorende berichten in de media, tot op zekere hoogte, overdreven.

Achteraf blijkt dat al deze voorbeelden representatief zijn voor een overgangsmoment. Dit soort projecten komen bij de komst van de nieuwe mediavorm maar één keer voor. Na dit punt, het publiek wordt geletterd en kan effectief onderscheid maken tussen feit en fictie - ze worden niet twee keer betrapt. Dit is een cyclisch fenomeen waarin "deepfakes" gewoon de meest recente manifestatie zijn. Dus misschien zijn de huidige angsten overdreven.

Maar het is ook waar dat door de snelheid van technologische innovatie, de potentiële exponentiële verspreiding van video over meerdere online ruimtes, en de potentiële mogelijkheden voor uitbuiting en ondermijning, we bevinden ons op een vrij uniek moment. Deze keer, het onderscheid tussen wat echt is en wat nep is, zou eigenlijk onmerkbaar kunnen worden. Op zo'n punt, alle op schermen gebaseerde media worden als nep beschouwd.

En terwijl het onderzoek vordert naar tegentechnologieën en deepfake-detectie, platforms zullen content zorgvuldig moeten beheren. Ondanks dit, de huidige vormen van politieke berichtgeving en nieuwsverslaggeving zouden wel eens geheel onbetrouwbaar kunnen worden. Er zullen ongetwijfeld nieuwe manieren voor effectieve communicatie moeten ontstaan.

Eén ding is zeker:deepfakes zijn symptomatisch voor moderne media die een tijdperk van kunstmatige intelligentie binnentreden. Ze zullen hun plaats in de mediageschiedenis innemen als een intrinsiek facet van de post-truth, nepnieuwslandschap dat ons huidige moment kenmerkt.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.