Twitter heeft dinsdag een plan onthuld om de verspreiding van gemanipuleerde inhoud, waaronder 'deepfake'-video's, te beteugelen als onderdeel van een poging om verkeerde informatie te bestrijden die kan leiden tot geweld of andere schade.

Het beleid werd aangekondigd nadat Twitter vorig jaar om commentaar had gevraagd over manieren om "synthetische en gemanipuleerde media" op het online platform te verminderen die mensen kunnen misleiden tijdens verkiezingscampagnes of geweld of fysiek letsel kunnen veroorzaken.

Twitter, die samen met andere sociale platforms moeite heeft om te reageren op zorgen over verkeerde informatie, zei dat het nieuwe beleid vraagt ​​om een ​​mix van waarschuwingslabels voor tweets die gemanipuleerde afbeeldingen of video bevatten, en verwijdering van de tweets.

De verhuizing komt te midden van groeiende bezorgdheid over 'deepfake'-video's die zijn gewijzigd met behulp van kunstmatige intelligentie, samen met andere vormen van manipulatie om gebruikers van sociale media te misleiden.

Twitter vice-president van vertrouwen en veiligheid Del Harvey zei dat het nieuwe beleid niet alleen betrekking heeft op deepfakes, maar ook op andere soorten manipulatie. soms beschreven als "ondiepe vervalsingen" of "goedkope vervalsingen".

"Dit is geen deepfake-regel, " ze zei.

"We willen elk incident aanpakken waarbij media zijn gewijzigd of gefabriceerd."

De beslissing om een ​​label op te nemen of de inhoud te verwijderen, hangt af van "de waarschijnlijkheid en ernst van schade die zou kunnen leiden, "Zei Harvey tijdens een gesprek met journalisten.

Twitter zei in een blogpost dat het op 5 maart zou beginnen met het afdwingen van het nieuwe beleid, gebruikers waarschuwen voor gemanipuleerde foto's of video's, en soms compenseren met links naar meer informatie over de onderwerpen.

"Je mag niet op bedrieglijke wijze synthetische of gemanipuleerde media delen die schade kunnen berokkenen, "groepsproductmanager Ashita Achuthan en hoofd van site-integriteit Yoel Roth zeiden in de blogpost.

"In aanvulling, we kunnen tweets labelen die synthetische en gemanipuleerde media bevatten om mensen te helpen de authenticiteit van de media te begrijpen en om extra context te bieden."

Politici inbegrepen

De nieuwe regel zal van toepassing zijn op politici en hun campagnes, volgens Harvey.

"Als de media is gewijzigd of gefabriceerd, ongeacht wie de persoon is, dit beleid is nog steeds van toepassing, " ze zei.

Onder het beleid, bijvoorbeeld, gemanipuleerde video's van de voormalige Amerikaanse vice-president Joe Biden en van de Democratische voorzitter van het Huis van Afgevaardigden Nancy Pelosi die recente controverses op sociale media veroorzaakten, zouden de nieuwe regel schenden, volgens Twitter-managers.

"Of je nu geavanceerde machine learning-tools gebruikt of een 99-cent-app gebruikt om video's op je telefoon te vertragen, onze regels zijn van toepassing op de inhoud, niet op hoe het resultaat is bereikt, ' zei Roth.

"Laat de eind-tweet leiden tot verwarring of onbegrip of tot een bewuste poging om mensen te misleiden? Dat is de vraag."

De aankondiging komt een dag nadat YouTube zei dat het verkiezingsgerelateerde video's zal verwijderen die "gemanipuleerd of gemanipuleerd" zijn om kiezers te misleiden. te midden van verhoogde bezorgdheid over pogingen om desinformatie te verspreiden die de verkiezingen over de hele wereld zou kunnen beïnvloeden.

Facebook, die een eigen beleid heeft op het gebied van verkeerde informatie, in januari zei dat het deepfake-video's zou verbieden en zwaar bewerkte clips zou toestaan, zolang ze parodie of satire zijn.

Filteren op vervalsingen

Factoren die Twitter zal wegen bij het beslissen welke inhoud bedrieglijk wordt gemanipuleerd of ronduit verzonnen, zijn onder meer hoe zwaar deze wordt bewerkt; of audio is nagesynchroniseerd of verwijderd, en of de afgebeelde simulaties zijn.

Op de lijst met verboden inhoud stonden ook bedreigingen voor de privacy of de vrije meningsuiting in de vorm van "stalking of ongewenste en obsessieve aandacht; gerichte inhoud met tropes, bijnamen, of materiaal dat tot doel heeft iemand het zwijgen op te leggen; kiezersonderdrukking of intimidatie."

Roth zei dat Twitter zal proberen "proactief" te zijn in het beleid "om de last van mensen om aan ons te rapporteren te verminderen."

Naast het tonen van waarschuwingslabels op gemanipuleerde afbeeldingen voordat deze worden 'geliked' of gedeeld, Twitter zal voorkomen dat het wordt opgenomen in aanbevolen inhoud en zal doorgaans aanvullende informatie verstrekken die bedoeld is om misvattingen tegen te gaan.

Twitter zei dat de nieuwe regel gebaseerd was op een onderzoek onder Amerikaanse gebruikers en op feedback van mensen over de hele wereld die instemden met tweets.

wereldwijd, meer dan 70 procent van de Twitter-gebruikers die hun mening gaven, zei dat het onaanvaardbaar zou zijn om geen actie te ondernemen op onrechtmatig gemanipuleerde tweets, volgens Achuthan en Roth.

© 2020 AFP