Het heeft de potentie om relaties te verpesten, reputaties en onze online realiteit. "Deepfake" kunstmatige-intelligentietechnologie belooft gemanipuleerde video's te maken die zo realistisch zijn dat ze bijna niet van echt te onderscheiden zijn. Tot nu toe is het meestal gebruikt om gewijzigde pornografische clips te maken met gezichten van beroemde vrouwen, maar zodra de technieken zijn geperfectioneerd, deepfake wraakporno die beweert te laten zien dat mensen hun partners bedriegen, zal niet ver achterblijven.

Maar meer dan een vervelend hulpmiddel te worden voor stalkers en pesters, deepfakes dreigen het vertrouwen in politieke instellingen en de samenleving als geheel te ondermijnen. Het Witte Huis heeft onlangs gerechtvaardigd om een ​​verslaggever tijdelijk van zijn persconferenties te weren met behulp van naar verluidt versnelde echte beelden van een incident waarbij de journalist betrokken was. Stel je de implicaties voor van het zien van ultrarealistische maar kunstmatige beelden van regeringsleiders die moorden plannen, CEO's die samenspannen met buitenlandse agenten of een bekende filantroop die kinderen misbruikt.

Zogenaamd nepnieuws heeft de scepsis van veel mensen jegens politici al doen toenemen, journalisten en andere publieke figuren. Het wordt zo gemakkelijk om volledig fictieve scenario's te maken dat we geen videobeelden meer kunnen vertrouwen. Dit bedreigt onze politieke, juridische en mediasystemen, om nog maar te zwijgen over onze persoonlijke relaties. We zullen nieuwe vormen van consensus moeten creëren waarop we onze sociale realiteit kunnen baseren. Nieuwe manieren om macht te controleren en te verdelen - sommige politieke, een of ander technologisch - zou ons kunnen helpen dit te bereiken.

valse schandalen, nep-politici

Deepfakes zijn eng omdat ze toestaan ​​dat iemands imago wordt gecoöpteerd, en twijfelen aan ons vermogen om te vertrouwen op wat we zien. Een voor de hand liggend gebruik van deepfakes zou zijn om mensen ten onrechte bij schandalen te betrekken. Zelfs als achteraf wordt bewezen dat de belastende beelden nep zijn, de reputatieschade van het slachtoffer is mogelijk niet meer te herstellen. En politici konden oude beelden van zichzelf aanpassen om het te laten lijken alsof ze altijd iets hadden gesteund dat recentelijk populair was geworden. hun posities in realtime bijwerken.

Er kunnen zelfs publieke figuren zijn die volledig denkbeeldig zijn, origineel maar niet authentiek. In de tussentijd, videobeelden kunnen nutteloos worden als bewijsmateriaal in de rechtszaal. Uitgezonden nieuws kan worden gereduceerd tot mensen die debatteren over de vraag of clips authentiek zijn of niet, steeds complexere AI gebruiken om deepfakes te detecteren.

Maar de wapenwedloop die al bestaat tussen makers van nep-inhoud en degenen die desinformatie detecteren of ontkrachten (zoals Facebook's geplande nepnieuws "war room") verbergt een dieper probleem. Het loutere bestaan ​​van deepfakes ondermijnt vertrouwen en vertrouwen, net zoals de mogelijkheid dat een verkiezing is gehackt de geldigheid van het resultaat in twijfel trekt.

Hoewel sommige mensen kunnen worden gegrepen door deepfakes, dat is niet het echte probleem. Wat op het spel staat, is de onderliggende sociale structuur waarin we het er allemaal over eens zijn dat er een vorm van waarheid bestaat, en de sociale realiteit die op dit vertrouwen is gebaseerd. Het gaat niet om het einde van de waarheid, maar het einde van het geloof in de waarheid - een post-trust samenleving. In het kielzog van massale desinformatie, zelfs eerlijke publieke figuren zullen gemakkelijk worden genegeerd of in diskrediet worden gebracht. De traditionele organisaties die consensus hebben ondersteund en mogelijk gemaakt – overheid, de pers – zal niet langer geschikt zijn voor het beoogde doel.

Blockchain-vertrouwen

Nieuwe wetten om het gebruik van deepfakes te reguleren zullen belangrijk zijn voor mensen die er schadelijke video's van hebben gemaakt. Maar beleid en wetgeving alleen zullen onze bestuurssystemen niet redden. We zullen nieuwe vormen van consensus moeten ontwikkelen, nieuwe manieren om overeenstemming te bereiken over sociale situaties op basis van alternatieve vormen van vertrouwen.

Eén benadering is het decentraliseren van vertrouwen, zodat we niet langer een paar instellingen nodig hebben om te garanderen of informatie echt is en in plaats daarvan kunnen vertrouwen op meerdere mensen of organisaties met een goede reputatie. Een manier om dit te doen zou kunnen zijn om blockchain te gebruiken, de technologie die Bitcoin en andere cryptocurrencies aandrijft.

Blockchain werkt door een grootboek te creëren dat op meerdere computers over de hele wereld tegelijk is opgeslagen en fraudebestendig is gemaakt door cryptografie. De algoritmen stellen de computers in staat om overeenstemming te bereiken over de geldigheid van eventuele wijzigingen in het grootboek, waardoor het veel moeilijker wordt om valse informatie vast te leggen. Op deze manier, het vertrouwen wordt verdeeld tussen alle computers die elkaar kunnen onderzoeken, verantwoordelijkheid vergroten.

Meer democratische samenleving

We kunnen ook kijken naar meer democratische vormen van bestuur en journalistiek. Bijvoorbeeld, vloeibare democratie stelt kiezers in staat rechtstreeks over elk onderwerp te stemmen of hun stemmen tijdelijk toe te wijzen aan afgevaardigden op een meer flexibele en verantwoordelijke manier dan wanneer de volledige controle jarenlang aan één partij wordt overgedragen. Dit zou het publiek in staat stellen om naar experts te kijken om waar nodig beslissingen voor hen te nemen, maar politici die hun mening negeerden of oneerlijk handelden, snel wegstemmen, het vergroten van het vertrouwen en de legitimiteit in het politieke systeem.

In de pers, we zouden kunnen evolueren naar een meer op samenwerking gebaseerde en gedemocratiseerde berichtgeving. Traditionele journalisten zouden de positieve aspecten van sociale media kunnen gebruiken om informatie te verzamelen uit een meer divers scala aan bronnen. Deze bijdragers kunnen het verhaal dan bespreken en helpen onderzoeken om een ​​consensus op te bouwen, het verbeteren van de reputatie van de media.

Het probleem met elk systeem dat vertrouwt op de reputatie van sleutelpersonen om vertrouwen op te bouwen, is hoe te voorkomen dat die reputatie wordt misbruikt of frauduleus wordt beschadigd. Controles zoals Twitter's "blauwe vinkje" accountverificatie voor publieke figuren kunnen helpen, maar er is ook betere juridische en technische bescherming nodig:meer beschermde rechten op privacy, betere reacties op asociaal gedrag online, en betere privacy-verhogende technologieën ingebouwd door het ontwerp.

De mogelijke gevolgen van deepfakes zouden een oproep tot actie moeten zijn bij het herontwerpen van vertrouwenssystemen om meer open, meer gedecentraliseerd en meer collectief. En nu is het tijd om na te denken over een andere toekomst voor de samenleving.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.