De verspreiding van verkeerde informatie op sociale media is een dringend maatschappelijk probleem waarmee technologiebedrijven en beleidsmakers blijven worstelen, maar degenen die dit probleem bestuderen, hebben nog steeds geen diep begrip van waarom en hoe vals nieuws zich verspreidt.

Om enig licht te werpen op dit duistere onderwerp, ontwikkelden onderzoekers van het MIT een theoretisch model van een Twitter-achtig sociaal netwerk om te bestuderen hoe nieuws wordt gedeeld en om situaties te onderzoeken waarin een niet-geloofwaardig nieuwsbericht zich op grotere schaal zal verspreiden dan de waarheid. Agenten in het model worden gedreven door een verlangen om anderen te overtuigen hun standpunt in te nemen:de belangrijkste veronderstelling in het model is dat mensen de moeite nemen om iets met hun volgers te delen als ze denken dat het overtuigend is en anderen waarschijnlijk dichter bij hun standpunt zullen brengen. manier van denken. Anders zullen ze niet delen.

De onderzoekers ontdekten dat in een dergelijke omgeving, wanneer een netwerk sterk verbonden is of de standpunten van zijn leden sterk gepolariseerd zijn, nieuws dat waarschijnlijk onwaar is, zich wijder zal verspreiden en dieper het netwerk zal binnendringen dan nieuws met een hogere geloofwaardigheid.

Dit theoretische werk zou empirische studies kunnen leveren over de relatie tussen de geloofwaardigheid van nieuws en de omvang van de verspreiding ervan, wat sociale-mediabedrijven zou kunnen helpen om netwerken aan te passen om de verspreiding van valse informatie te beperken.

"We laten zien dat, zelfs als mensen rationeel zijn in de manier waarop ze besluiten het nieuws te delen, dit nog steeds kan leiden tot de versterking van informatie met een lage geloofwaardigheid. Met dit overtuigingsmotief, hoe extreem mijn overtuigingen ook zijn, aangezien de meer extreme ze zijn des te meer ik win door de mening van anderen te veranderen - er is altijd iemand die [de informatie] zou versterken", zegt senior auteur Ali Jadbabaie, professor en hoofd van de afdeling Civiele en Milieutechniek en een kernfaculteitslid van het Instituut voor Data, Systemen en Samenleving (IDSS) en hoofdonderzoeker in het Laboratorium voor Informatie- en Beslissystemen (LIDS).

Naast Jadbabaie op het papier zijn eerste auteur Chin-Chia Hsu, een afgestudeerde student in het Social and Engineering Systems-programma in IDSS, en Amir Ajorlou, een LIDS-onderzoeker. Het onderzoek wordt deze week gepresenteerd op de IEEE Conference on Decision and Control.

Overreding nadenken

Dit onderzoek is gebaseerd op een onderzoek uit 2018 door Sinan Aral, de David Austin Professor of Management aan de MIT Sloan School of Management; Deb Roy, universitair hoofddocent mediakunsten en -wetenschappen bij het Media Lab; en voormalig postdoc Soroush Vosoughi (nu een assistent-professor informatica aan de Dartmouth University). Uit hun empirische studie van gegevens van Twitter bleek dat vals nieuws zich breder, sneller en dieper verspreidt dan echt nieuws.

Jadbabaie en zijn medewerkers wilden uitleggen waarom dit gebeurt.

Ze veronderstelden dat overreding een sterk motief zou kunnen zijn om nieuws te delen - misschien willen agenten in het netwerk anderen overtuigen om hun standpunt in te nemen - en besloten een theoretisch model te bouwen waarmee ze deze mogelijkheid zouden kunnen onderzoeken.

In hun model hebben agenten enige overtuiging over een beleid, en hun doel is om volgers te overtuigen om hun overtuigingen dichter bij de kant van het spectrum van de agent te brengen.

Een nieuwsbericht wordt in eerste instantie vrijgegeven aan een kleine, willekeurige subgroep van agenten, die moet beslissen of ze dit nieuws met hun volgers willen delen. Een agent weegt de nieuwswaardigheid van het item en de geloofwaardigheid ervan af, en werkt zijn overtuiging bij op basis van hoe verrassend of overtuigend het nieuws is.

"Ze zullen een kosten-batenanalyse maken om te zien of dit nieuws gemiddeld genomen mensen dichter bij wat ze denken zal brengen of hen ervan af zal brengen. En we rekenen een nominale kost voor het delen aan. Bijvoorbeeld actie ondernemen, als je scrolt op sociale media, daar moet je mee stoppen. Zie dat als een kostenpost. Of er kunnen reputatiekosten komen als ik iets deel dat gênant is. Iedereen heeft deze kosten, dus hoe extremer en hoe interessanter de nieuws is, hoe meer je het wilt delen", zegt Jadbabaie.

Als het nieuws het perspectief van de agent bevestigt en een overtuigingskracht heeft die groter is dan de nominale kosten, zal de agent het nieuws altijd delen. Maar als een agent denkt dat het nieuwsbericht iets is dat anderen misschien al hebben gezien, wordt de agent ontmoedigd om het te delen.

Aangezien de bereidheid van een agent om nieuws te delen een product is van zijn perspectief en hoe overtuigend het nieuws is, hoe extremer het perspectief van een agent of hoe verrassender het nieuws, hoe groter de kans dat de agent het zal delen.

De onderzoekers gebruikten dit model om te bestuderen hoe informatie zich verspreidt tijdens een nieuwscascade, een ononderbroken deelketen die snel het netwerk doordringt.

Connectiviteit en polarisatie

Het team ontdekte dat wanneer een netwerk een hoge connectiviteit heeft en het nieuws verrassend is, de geloofwaardigheidsdrempel voor het starten van een nieuwscascade lager is. Hoge connectiviteit betekent dat er meerdere verbindingen zijn tussen veel gebruikers in het netwerk.

Evenzo, wanneer het netwerk grotendeels gepolariseerd is, zijn er tal van agenten met extreme opvattingen die het nieuwsitem willen delen en een nieuwscascade starten. In beide gevallen zorgt nieuws met een lage geloofwaardigheid voor de grootste cascades.

"Voor elk nieuws is er een natuurlijke netwerksnelheidslimiet, een reeks connectiviteit, die een goede overdracht van informatie mogelijk maakt waarbij de grootte van de cascade wordt gemaximaliseerd door echt nieuws. Maar als je die snelheidslimiet overschrijdt, kom je in situaties waarin onnauwkeurig nieuws of nieuws met een lage geloofwaardigheid een grotere cascadegrootte heeft", zegt Jadbabaie.

Als de meningen van gebruikers in het netwerk meer divers worden, is het minder waarschijnlijk dat een slecht geloofwaardig nieuwsbericht zich op grotere schaal zal verspreiden dan de waarheid.

Jadbabaie en zijn collega's hebben de agenten in het netwerk zo ontworpen dat ze zich rationeel gedragen, zodat het model de acties van echte mensen beter kan vastleggen als ze anderen willen overtuigen.

"Iemand zou kunnen zeggen dat mensen daarom niet delen, en dat is terecht. Waarom mensen bepaalde dingen doen, is een onderwerp van intens debat in de cognitieve wetenschappen, sociale psychologie, neurowetenschappen, economie en politieke wetenschappen", zegt hij. "Afhankelijk van je aannames krijg je verschillende resultaten. Maar ik heb het gevoel dat deze aanname dat overtuiging het motief is een natuurlijke aanname is."

Hun model laat ook zien hoe de kosten kunnen worden gemanipuleerd om de verspreiding van valse informatie te verminderen. Agenten maken een kosten-batenanalyse en zullen geen nieuws delen als de kosten om dit te doen opwegen tegen het voordeel van het delen.

"We maken geen beleidsvoorschriften, maar een ding dat dit werk suggereert, is dat het misschien geen slecht idee is om wat kosten te hebben in verband met het delen van nieuws. De reden dat je veel van deze cascades krijgt, is omdat de kosten van het delen van het nieuws is eigenlijk heel laag", zegt hij.