In een nieuw artikel gepubliceerd in Science en co-auteur van Duncan J. Watts van de Universiteit van Pennsylvania, introduceren de onderzoekers een nieuwe methodologie voor het op grote schaal meten van de causale impact van sociale media-inhoud. Ze laten zien dat misleidende inhoud van reguliere nieuwsbronnen – in plaats van regelrechte desinformatie of ‘nepnieuws’ – de belangrijkste oorzaak was van de aarzeling over vaccins op Facebook.
Een nieuwe benadering voor het inschatten van de impact
"Desinformatie is in verband gebracht met veel maatschappelijke uitdagingen, maar er is niet veel onderzoek dat aantoont dat blootstelling aan desinformatie daadwerkelijk schade veroorzaakt", legt Allen uit.
Tijdens de COVID-19-pandemie kreeg de verspreiding van verkeerde informatie over het virus en het vaccin bijvoorbeeld aanzienlijke publieke aandacht. Bestaand onderzoek heeft echter voor het grootste deel alleen correlaties vastgesteld tussen de weigering van vaccins en factoren zoals het online delen van verkeerde informatie – en heeft grotendeels de rol van ‘vaccinsceptische’ inhoud over het hoofd gezien, die potentieel misleidend was maar door Facebook niet als verkeerde informatie werd gemarkeerd. -dammen.
Om deze kloof te dichten, stelden de onderzoekers eerst een belangrijke vraag:wat is er nodig om verkeerde informatie of andere soorten inhoud verstrekkende gevolgen te laten hebben?
“Om gedrag op grote schaal te veranderen, moet de inhoud niet alleen overtuigend genoeg zijn om mensen ervan te overtuigen het vaccin niet te nemen, maar moet deze ook algemeen gezien worden”, aldus Allen. "Potentiële schade ontstaat door de combinatie van overreding en blootstelling."
Om het overtuigende vermogen van de inhoud te kwantificeren, voerden de onderzoekers gerandomiseerde experimenten uit waarin ze duizenden deelnemers aan de enquête de krantenkoppen uit 130 vaccingerelateerde verhalen lieten zien – inclusief zowel reguliere inhoud als bekende verkeerde informatie – en testten hoe die krantenkoppen hun intenties beïnvloedden om zich te laten vaccineren tegen COVID-19. 19.
Onderzoekers vroegen ook een aparte groep respondenten om de krantenkoppen te beoordelen op verschillende kenmerken, waaronder plausibiliteit en politieke inslag. Eén factor voorspelde op betrouwbare wijze de impact op vaccinatie-intenties:de mate waarin een kop suggereerde dat het vaccin schadelijk was voor de gezondheid van een persoon.
Met behulp van de ‘wisdom of crowds’ en AI-tools voor natuurlijke taalverwerking extrapoleerden Allen en haar co-auteurs deze enquêteresultaten om de overtuigingskracht te voorspellen van alle 13.206 vaccingerelateerde URL’s die in de eerste drie maanden van het vaccin op grote schaal op Facebook werden bekeken. uitrol.
Door deze voorspellingen te combineren met gegevens van Facebook die het aantal gebruikers laten zien dat elke URL heeft bekeken, konden de onderzoekers de algehele impact van elke kop voorspellen:het aantal mensen dat het mogelijk had kunnen overtuigen om het vaccin niet te nemen. De resultaten waren verrassend.
De onderschatte kracht van exposure
In tegenstelling tot wat vaak wordt gedacht, schatten de onderzoekers dat vaccin-sceptische inhoud de vaccinatie-intenties 46 keer meer verminderde dan desinformatie die door factcheckers werd opgemerkt.
De reden? Hoewel gemarkeerde desinformatie schadelijker was als ze werd gezien, had deze een relatief laag bereik. In totaal werden de vaccingerelateerde krantenkoppen in de Facebook-dataset 2,7 miljard keer bekeken, maar inhoud die als verkeerde informatie werd gemarkeerd, ontving slechts 0,3% van die weergaven, en inhoud van domeinen die als laag geloofwaardig werden beoordeeld, ontving 5,1%.
“Hoewel de ronduit valse inhoud de vaccinatie-intenties het meest verminderde als ze werden bekeken, zagen relatief weinig mensen het”, legt Rand uit. "In wezen betekent dit dat er een klasse grijze gebiedsinhoud bestaat die minder schadelijk is per blootstelling, maar die veel vaker wordt gezien (en dus in het algemeen impactvoller is) en die grotendeels over het hoofd wordt gezien door zowel academici als sociale-mediabedrijven."
Opvallend is dat een aantal van de meest impactvolle URL's binnen de dataset artikelen waren uit reguliere bronnen die twijfel zaaiden over de veiligheid van het vaccin. Het meest bekeken artikel was bijvoorbeeld een artikel – afkomstig van een gerenommeerde reguliere nieuwsbron – waarin werd gesuggereerd dat een arts stierf twee weken nadat hij het COVID-19-vaccin had gekregen. Deze enkele kop werd 54,9 miljoen keer bekeken – meer dan zes keer zoveel als de gecombineerde weergaven van alle gemarkeerde desinformatie.
Hoewel de hoofdtekst van dit artikel de onzekerheid over de doodsoorzaak van de arts erkende, was de kop ‘clickbait’ zeer suggestief en suggereerde dat het vaccin waarschijnlijk verantwoordelijk was. Dat is veelbetekenend omdat de overgrote meerderheid van de kijkers op sociale media waarschijnlijk nooit doorklikt om verder te lezen dan de kop.
Hoe journalisten en sociale-mediaplatforms kunnen helpen
Volgens Rand is een implicatie van dit werk dat mediakanalen voorzichtiger moeten zijn met hun krantenkoppen, zelfs als dat betekent dat ze niet zo de aandacht trekken.
"Als je een kop schrijft, moet je jezelf niet alleen afvragen of deze onwaar is of niet", zei hij. "Je zou jezelf moeten afvragen of de kop waarschijnlijk tot onnauwkeurige percepties zal leiden."
Voor platforms, zo voegt Allen toe, wijst het onderzoek ook op de noodzaak van meer genuanceerde moderatie – over alle onderwerpen heen, niet alleen over de volksgezondheid.
"Contentmoderatie richt zich op het identificeren van de meest flagrante valse informatie, maar dat is misschien geen effectieve manier om de meest schadelijke inhoud te identificeren", zegt ze. "Platforms moeten ook prioriteit geven aan het beoordelen van inhoud van de mensen of organisaties met het grootste aantal volgers, terwijl de vrijheid van meningsuiting in evenwicht wordt gehouden. We moeten op dit gebied investeren in meer onderzoek en creatieve oplossingen, bijvoorbeeld crowdsourced moderatietools zoals X's Community Notes."
"Beslissingen over contentmoderatie kunnen erg moeilijk zijn vanwege de inherente spanning tussen het willen beperken van schade en het toestaan dat mensen zich uiten", aldus Rand. "Ons artikel introduceert een raamwerk om deze afweging in evenwicht te brengen door technologiebedrijven in staat te stellen de potentiële schade daadwerkelijk te kwantificeren."
En de afwegingen kunnen groot zijn. Uit een verkennende analyse van de auteurs bleek dat als Facebook-gebruikers niet waren blootgesteld aan deze vaccin-sceptische inhoud, maar liefst 3 miljoen Amerikanen meer hadden kunnen worden gevaccineerd.
"We kunnen deze grijze gebied-inhoud niet zomaar negeren", concludeerde Allen. "Er hadden levens gered kunnen worden."