De nieuwste rage van de foto-app kan je eruit laten zien als een filmster. Zao gebruikt kunstmatige intelligentie om de gezichten van personages in film- of tv-clips te vervangen door afbeeldingen van iedereen wiens foto je uploadt naar de app.

Het effect is verrassend realistisch en laat zien hoe ver dit soort "deepfake"-technologie is gekomen. Maar het laat ook zien hoe groot de risico's zijn geworden van het online beschikbaar stellen van uw foto's waar iedereen ze kan gebruiken of misbruiken - en de beperking van de wet bij het omgaan met dit probleem.

Een van de belangrijkste problemen is het wettelijke recht dat bedrijven hebben om uw foto's te gebruiken zodra u ze uploadt naar hun apps of websites. Verschillende mediaberichten stellen dat Zao's algemene voorwaarden het aanvankelijk "gratis, onherroepelijk, permanent, overdraagbaar, en herlicentiebare" rechten. Een verzet hiertegen heeft nu het bedrijf dat de app maakt, geduwd, Momo Inc, om zijn voorwaarden te wijzigen. Het zegt dat het geen headshots of video's zal gebruiken die door gebruikers zijn geüpload, behalve om de app te verbeteren en geen afbeeldingen op te slaan als gebruikers ze van hun accounts verwijderen.

Maar veel andere fototoepassingen, zoals de leeftijd of geslachtsveranderende FaceApp, vergelijkbare rechten behouden om effectief te doen wat ze willen met de geüploade inhoud. Met "een eeuwigdurende, onherroepelijk, niet-exclusief, royalty-vrij, wereldwijd, volledig betaald, overdraagbare sublicentieerbare licentie, " FaceApp verkrijgt in wezen alle rechten van de oorspronkelijke eigenaar op de foto (behalve dat deze geen exclusieve licentie heeft).

Deze termen zijn niet anders dan die van nog meer populaire en reguliere apps zoals Instagram, die zijn foto-feed opent voor adverteerders. Instagram kan andere bedrijven de foto's van gebruikers laten exploiteren zonder enige vergoeding en dit recht verder doorgeven aan een derde partij zonder aanvullende toestemming.

En, natuurlijk, je hoeft niet eens iemand toestemming te geven om je foto's te gebruiken om dat toch te doen. Zodra ze online zijn, uw afbeeldingen kunnen zonder uw medeweten worden verspreid. Studies hebben aangetoond dat het begrip van mensen over online privacy-instellingen grotendeels beperkt blijft. Als de privacyinstellingen niet voldoende zijn, iedereen heeft toegang tot uw foto's.

Dit kunnen journalisten zijn, die afbeeldingen van sociale media opnieuw kunnen publiceren zonder noodzakelijkerwijs de privacywetten te schenden als de afbeeldingen al het publieke domein zijn binnengekomen. Foto's zijn nog steeds auteursrechtelijk beschermd, maar afbeeldingen die uit video's zijn genomen, kunnen soms worden gepubliceerd onder de bepalingen van "eerlijk handelen". die de publicatie niet automatisch zou moeten verwijderen als een gebruiker de originele foto zou verwijderen.

De ontwikkeling van AI maakt de mogelijke gevolgen van het opgeven van de controle over je foto's nog groter. De deepfake-technologie die door Zao en andere apps wordt gebruikt, kan gemanipuleerde foto's en video's maken die heel moeilijk van echt te onderscheiden zijn.

Dit heeft al geleid tot deepfake pornografie, waarbij iemands gezicht op expliciete afbeeldingen wordt geplaatst met behulp van een op AI gebaseerde synthesetechniek. Dit soort online misbruik kan slachtoffers blootstellen aan financiële of emotionele chantage en hen uiteindelijk ernstige psychologische en emotionele schade toebrengen.

Juridisch beroep

Als je merkt dat je afbeelding is gebruikt op manieren die je nooit wilde, hoe kan de wet helpen? Als de afbeelding gewoon wordt gebruikt binnen de voorwaarden waarmee u akkoord bent gegaan (en er geen andere wetten zijn overtreden), je hebt waarschijnlijk niet veel toevlucht. Onder het "recht om te worden vergeten" van de EU, " je zou kunnen vragen om je foto's te verwijderen van de servers van een bedrijf, zodat ze er geen verder gebruik van kunnen maken, hoewel dit geen absoluut recht is.

Maar de komst van AI-apps creëert een ander probleem. Hoewel een bedrijf uw afbeeldingen van hun servers kan verwijderen, het kan onmogelijk zijn om de gerelateerde gegevens te verwijderen uit AI-software die de afbeeldingen heeft verwerkt en geleerd. Deze gegevens kunnen in feite niet beschikbaar zijn, maar ze kunnen niet echt worden "vergeten".

Er zijn andere manieren waarop de wet uit de pas lijkt te lopen met de evolutie van AI-veranderde afbeeldingen, vooral wanneer ze worden gebruikt voor beledigende en aanstootgevende doeleinden. In het Verenigd Koninkrijk, de recente wet gericht op "wraakpornografie" is alleen van toepassing op privé-seksuele afbeeldingen, die mogelijk geen niet-privéfoto's bevatten die zijn omgezet naar een seksueel beeld van een andere persoon.

Er kunnen andere opties zijn voor degenen die het slachtoffer worden van de creatie van deepfake-pornografie. Het feit dat mensen zijn veroordeeld voor het plaatsen van afbeeldingen van anderen op pornografische websites, toont aan dat onder bepaalde omstandigheden ook een beroep kan worden gedaan op de wet op intimidatie. Het is misschien ook mogelijk om claims in te dienen voor misbruik van privé-informatie, laster of inbreuk op het auteursrecht.

Als iemand u misleidt om toegang te verlenen tot uw sociale media-profiel en foto's te maken om nep-pornografische afbeeldingen te genereren, u kunt ook de wetgeving inzake gegevensbescherming inschakelen. Maar het is de vraag of civielrechtelijke acties zoals laster of privacy de schade die met deepfakes kan worden aangericht voldoende erkennen op een manier die een specifieke strafrechtelijke aanklacht zou doen - en tot nu toe bestaat een dergelijke aanklacht niet.

De komst van sociale media heeft onze verwachtingen over hoe we onze foto's controleren fundamenteel op de proef gesteld. Het huidige lappendeken van wettelijke bepalingen moet worden herzien om rekening te houden met de nieuwe manieren waarop afbeeldingen worden gemaakt en gedeeld zonder toestemming van een onderwerp, zodat deze problemen op grotere schaal worden aangepakt met een blijvend effect. Samen met een nieuw regelgevingskader voor online veiligheid, gebruikers moeten worden opgeleid om de risico's van online activiteiten te waarderen en op een verantwoorde manier door online ruimtes te navigeren.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.