Korte animaties die kijkers een voorproefje geven van de tactieken achter verkeerde informatie, kunnen mensen helpen inenten tegen schadelijke inhoud op sociale media wanneer ze worden gebruikt in de advertentieruimte van YouTube, volgens een groot online experiment onder leiding van de Universiteit van Cambridge.

In samenwerking met Jigsaw, een afdeling van Google die zich bezighoudt met het aanpakken van bedreigingen voor open samenlevingen, heeft een team van psychologen van de universiteiten van Cambridge en Bristol clips van 90 seconden gemaakt om gebruikers vertrouwd te maken met manipulatietechnieken zoals zondebokken en opzettelijke incoherentie.

Deze "pre-bunking"-strategie stelt mensen preventief bloot aan tropen die aan de basis liggen van kwaadaardige propaganda, zodat ze online onwaarheden beter kunnen identificeren, ongeacht het onderwerp.

Onderzoekers achter het Inoculation Science-project vergelijken het met een vaccin:door mensen vooraf een 'microdosis' verkeerde informatie te geven, helpt het te voorkomen dat ze er in de toekomst voor vallen - een idee dat is gebaseerd op wat sociaal-psychologen 'inentingstheorie' noemen.

De bevindingen, gepubliceerd in Science Advances , komen uit zeven experimenten met in totaal bijna 30.000 deelnemers - waaronder de eerste "real-world veldstudie" van de inentingstheorie op een sociale-mediaplatform - en laten zien dat één keer kijken naar een filmfragment het bewustzijn van verkeerde informatie vergroot.

De video's introduceren concepten uit het 'desinformatie-playbook', geïllustreerd met herkenbare voorbeelden uit film en tv zoals Family Guy of, in het geval van valse dichotomieën, Star Wars ("Only a Sith deals in absolutes").

"YouTube heeft wereldwijd meer dan 2 miljard actieve gebruikers. Onze video's kunnen gemakkelijk worden ingesloten in de advertentieruimte op YouTube om verkeerde informatie te voorkomen", zegt co-auteur prof. Sander van der Linden, hoofd van het Social Decision-Making Lab (SDML) in Cambridge, die het werk leidde.

"Ons onderzoek levert het noodzakelijke bewijs van concept dat het principe van psychologische inenting gemakkelijk kan worden opgeschaald naar honderden miljoenen gebruikers over de hele wereld."

Hoofdauteur Dr. Jon Roozenbeek van Cambridge's SDML beschrijft de video's van het team als 'bronagnostisch' en vermijdt vooroordelen die mensen hebben over waar informatie vandaan komt en hoe het klopt - of niet - met wat ze al geloven.

"Onze interventies doen geen uitspraken over wat waar of een feit is, wat vaak wordt betwist. Ze zijn effectief voor iedereen die het niet op prijs stelt gemanipuleerd te worden," zei hij.

"Het inentingseffect was consistent onder liberalen en conservatieven. Het werkte voor mensen met verschillende opleidingsniveaus en verschillende persoonlijkheidstypes. Dit is de basis van een algemene inenting tegen verkeerde informatie."

Google, het moederbedrijf van YouTube, maakt al gebruik van de bevindingen. Eind augustus zal Jigsaw een prebunking-campagne lanceren op verschillende platforms in Polen, Slowakije en Tsjechië om de opkomende desinformatie met betrekking tot Oekraïense vluchtelingen voor te blijven. De campagne is ontworpen om weerstand te bieden aan schadelijke anti-vluchtelingenverhalen, in samenwerking met lokale NGO's, factcheckers, academici en desinformatie-experts.

"Schadelijke verkeerde informatie neemt vele vormen aan, maar de manipulatieve tactieken en verhalen worden vaak herhaald en kunnen daarom worden voorspeld", zegt Beth Goldberg, co-auteur en hoofd Onderzoek en Ontwikkeling voor de Jigsaw-eenheid van Google.

"Mensen leren over technieken zoals ad-hominem-aanvallen die bedoeld zijn om ze te manipuleren, kan helpen om veerkracht op te bouwen om in de toekomst verkeerde informatie te geloven en te verspreiden.

"We hebben aangetoond dat videoadvertenties als leveringsmethode voor prebunking-berichten kunnen worden gebruikt om miljoenen mensen te bereiken, mogelijk voordat schadelijke verhalen de overhand krijgen", zei Goldberg.

Het team beweert dat pre-bunking effectiever kan zijn in het bestrijden van de stortvloed aan desinformatie dan het controleren van elke onwaarheid nadat deze zich heeft verspreid - de klassieke "ontkrachting" - wat onmogelijk is om op grote schaal te doen, en complottheorieën kan verankeren door het gevoel te hebben dat het persoonlijke aanvallen zijn voor degenen die ze geloven.

"Propaganda, leugens en misleiding komen bijna altijd voort uit hetzelfde speelboek", zegt co-auteur prof. Stephan Lewandowsky van de Universiteit van Bristol. "We hebben de video's ontwikkeld door de retoriek van demagogen te analyseren, die zich bezighouden met zondebokken en valse dichotomieën."

"Factcheckers kunnen slechts een fractie van de onwaarheden weerleggen die online circuleren. We moeten mensen leren het spelboek met verkeerde informatie te herkennen, zodat ze begrijpen wanneer ze worden misleid."

Zes eerste gecontroleerde experimenten hadden 6.464 deelnemers, en het zesde experiment werd een jaar na de eerste vijf uitgevoerd om ervoor te zorgen dat eerdere bevindingen konden worden gerepliceerd.

De gegevensverzameling voor elke deelnemer was uitgebreid, van basisinformatie - geslacht, leeftijd, opleiding, politieke voorkeuren - tot niveaus van rekenvaardigheid, samenzweringsdenken, nieuws en sociale media-controle, 'bullshit-ontvankelijkheid' en een persoonlijkheidsinventaris, naast andere 'variabelen'. "

Dit alles in aanmerking genomen, ontdekte het team dat inentingsvideo's het vermogen van mensen om verkeerde informatie op te sporen verbeterden en hun zelfvertrouwen vergrootten om dit opnieuw te kunnen doen. De clips verbeteren ook de kwaliteit van "deelbeslissingen":het al dan niet verspreiden van schadelijke inhoud.

Twee van de animaties werden vervolgens 'in het wild' getest als onderdeel van een uitgebreid experiment op YouTube, met clips die in de pre-videoadvertentieruimte werden geplaatst die een optie biedt om na vijf seconden over te slaan.

Google Jigsaw stelde ongeveer 5,4 miljoen Amerikaanse YouTubers bloot aan een inentingsvideo, met bijna een miljoen kijkers gedurende minstens 30 seconden. Het platform gaf vervolgens een willekeurige 30% van de gebruikers die binnen 24 uur na hun eerste bezichtiging een vrijwillige testvraag hadden bekeken.

De clips waren bedoeld om te inenten tegen desinformatietactieken van hyperemotieve taal en het gebruik van valse dichotomieën, en de vragen - gebaseerd op fictieve berichten - getest op detectie van deze stijlfiguren. YouTube gaf ook een "controle" groep gebruikers die geen video hadden bekeken dezelfde testvraag. In totaal hebben 22.632 gebruikers een vraag beantwoord.

Ondanks de intense "ruis" en afleiding op YouTube, is het vermogen om manipulatietechnieken te herkennen die de kern van desinformatie vormen, gemiddeld met 5% toegenomen.

Google zegt dat het ongekende karakter van het experiment betekent dat er geen directe gegevensvergelijking beschikbaar is. Een toename van de merkbekendheid door advertenties op YouTube, ook wel 'merkverbetering' genoemd, is echter doorgaans beperkt tot 1% in enquêtes onder minder dan 45.000 gebruikers.

"Gebruikers namen gemiddeld 18 uur na het bekijken van de video's deel aan tests, dus de inenting lijkt te zijn blijven hangen", zegt Van der Linden.

Onderzoekers zeggen dat een dergelijke toename van herkenning het spel zou kunnen veranderen als het drastisch zou worden opgeschaald op sociale platforms - iets dat goedkoop zou zijn om te doen. De gemiddelde kosten voor elke weergave van aanzienlijke lengte waren de kleine som van US $ 0,05.

Roozenbeek toegevoegd:"Als iemand wil betalen voor een YouTube-campagne die de gevoeligheid voor verkeerde informatie bij miljoenen gebruikers meetbaar vermindert, kan hij dat doen, en dat tegen minuscule kosten per weergave."

Eerste zes experimenten

De eerste zes gecontroleerde experimenten omvatten het willekeurig toewijzen van elke deelnemer met een 90 seconden durende "inoculatie" -video of een neutrale controlevideo. Deelnemers kregen vervolgens willekeurig tien posts op sociale media te zien:vijf met behulp van opzettelijk manipulatieve technieken (hoewel niet alle bewezen onwaarheden bevatten) en vijf neutrale berichten. De deelnemers werd gevraagd om de mate van vertrouwen in de informatie te rangschikken, de mate waarin ze het gevoel hebben dat het manipulatief is en hoe waarschijnlijk het is dat ze het zouden delen.

Bevindingen zijn onder meer:​​

• Video met emotionele taal:"ingeënte" deelnemers waren tussen 1,5 en 1,67 keer beter dan de controlegroep in het identificeren van deze manipulatietechniek.
• Video met valse dichotomieën:"geïnoculeerde" deelnemers waren 1,95 - dus bijna twee keer - zo goed als de controlegroep in het identificeren van deze manipulatietechniek.
• Incoherentievideo:"geïnoculeerde" deelnemers waren meer dan twee keer zo goed (2.14) als de controlegroep in het identificeren van deze manipulatietechniek.

YouTube-experiment

De YouTube-inentingsadvertentiecampagne liep meer dan vijftien dagen in [YEAR] en was gericht op Engelssprekende gebruikers in de VS die 18 jaar of ouder waren en ten minste één politieke of nieuwsvideo op het platform hadden bekeken.

In totaal beantwoordden 22.632 deelnemers een testvraag op YouTube:11.432 die een inentingsvideo hadden gezien en 11.200 die dat niet hadden gedaan.

Voorbeeldvragen zoals gepresenteerd door YouTube:

• Valse tweedeling:Evalueer deze zin:"We moeten ofwel ons onderwijssysteem verbeteren of de misdaad op straat aanpakken." Gebruikers werd gevraagd om te kiezen of de zin het volgende bevatte:een commando; angst zaaien; valse dichotomie; geen van deze.
• Emotionele taal:Evalueer deze zin:"Babyvoeding gekoppeld aan het uitbreken van een nieuwe angstaanjagende ziekte onder hulpeloze baby's - wanhoop van ouders." Gebruikers werd gevraagd om te kiezen of de zin het volgende bevatte:een commando; emotionele taal; valse dichotomie; geen van deze.

Factcheckers dringen er bij YouTube op aan om desinformatie te bestrijden