Er is slechts een kleine hoeveelheid nepnieuws nodig om een ​​debat of discussie over een kwestie te verstoren, volgens onderzoek dat vandaag is gepubliceerd in PLOS EEN .

Maar er is een manier om degenen die nepnieuws verspreiden te ontmoedigen, en zelfs om het helemaal uit te wissen.

Het onderzoek is experimenteel, gebaseerd op modellering en simulaties, maar het toont in ieder geval aan dat het mogelijk is om de verspreiding van verkeerde informatie tegen te gaan.

De opkomst van nepnieuws

De verspreiding van ondeugende en valse informatie heeft de menselijke samenlevingen eeuwenlang geteisterd.

In dit tijdperk van onmiddellijke wereldwijde digitale connectiviteit, de huidige incarnatie van "nepnieuws" is een plaag geworden en wordt uitgebuit voor persoonlijk of politiek gewin.

Sociale media, ontworpen om gebruikers aan te moedigen inhoud bij te dragen en te delen, is de grote aanjager van de verspreiding van nepnieuws geworden.

Van naties die zich bemoeien met de politiek van democratieën en politieke partijen die de publieke opinie proberen te manipuleren, naar een op winst gerichte "nepnieuws"-industrie, hebben allemaal deze spread uitgebuit voor winst, verwarring en onenigheid zaaien in de slachtofferpopulaties waarop ze zich richten.

Het simulatiespel

We hebben enkele experimenten gedaan om de meer fundamentele mechanismen te begrijpen die het gedrag van nepnieuws in populaties bepalen.

We waren vooral geïnteresseerd in twee vragen:

1. hoeveel impact nepnieuws kan hebben op consensusvorming in een populatie
2. de impact van de kosten van het verspreiden van nepnieuws op het vermogen om een ​​bevolking te besmetten.

In de echte wereld, kosten kunnen extern zijn, zoals boetes, straffen, uitsluitingen, uitgaven voor het maken en verspreiden van vervalsingen; of ze kunnen intern zijn, zoals gevoelens van verlies of schaamte als gevolg van belachelijk worden gemaakt of beschaamd.

De tool die we gebruikten was een evolutionaire simulatie, waarin eenvoudige softwarerobots in een populatie op elkaar inwerken, het bekende spel Prisoner's Dilemma spelen. In principe, een gevangene die een ander verraadt, wint veel, terwijl de verraden slecht verliest, terwijl beide slechts bescheiden winnen als ze samenwerken, en gelijk lijden als ze elkaar verraden.

In tegenstelling tot eerdere werkzaamheden op dit gebied, we hebben sommige van deze softwarerobots een beetje omslachtig gemaakt, door code toe te voegen waarmee ze elkaar konden misleiden. Het slachtoffer van een dergelijk bedrog wordt in de war gebracht over de bedoeling van de tegenstander, of ervan overtuigd dat de tegenstander een onzelfzuchtige coöperatieve "good guy" is.

Onze code maakte gebruik van ons werk in informatietheoretische modellering van bedrog, waardoor bekende misleidingen in kaart kunnen worden gebracht in speltheoriemodellen. Elke bedrieger in de simulatie maakte kosten toen ze bedrogen, die vervolgens werd afgetrokken van de uitbetaling die ze verdienden in het prisoner's dilemma-spel.

Hoeveel nepnieuws om de consensus te verstoren?

We ontdekten dat zelfs een zeer klein percentage misleidende spelers in de populatie - in onze simulaties minder dan 1% - het coöperatieve gedrag in de gesimuleerde populatie catastrofaal zou kunnen verstoren.

In het extreme geval van gratis bedrog - waarbij nepnieuwsproducenten ongehinderd zijn - verdween het coöperatieve gedrag helemaal. Alleen waar de kosten van bedrog groter waren dan nul, heeft de samenwerking overleefd. Waar de kosten erg hoog waren, samenwerking gedijt echt goed.

We vonden ook dat voor alle simulaties, het vermogen om spelers te bedriegen om te overleven hing sterk af van de kosten van bedrog. Als de kosten hoog genoeg waren, bedriegers konden niet overleven in de bevolking.

Als we dit toepassen op de verspreiding van nepnieuws, zeer hoge kosten zullen leiden tot het uitsterven ervan.

Van experiment naar echte wereld

Wat vertellen deze experimentele resultaten ons over de echte wereld van nepnieuwsdistributie in sociale media en massamedia?

Het eerste en misschien wel belangrijker resultaat is dat er heel weinig nepnieuws nodig is om chaos in een bevolking te veroorzaken, en consensusvorming te voorkomen die cruciaal is voor het publieke debat. Of slachtoffers nu in de war zijn, of onwaarheden geloven, is immaterieel. Het is hun vermogen om consensus te bereiken dat wordt verstoord.

Onze modellering was gericht op kleine groepen influencers die actief over problemen discussiëren. Waar influencers het niet eens kunnen worden, volgelingen kunnen op hun beurt niet aansluiten bij een consensus. Dit is een van de redenen waarom nepnieuws zo destructief is voor democratische samenlevingen.

Het tweede resultaat van bredere interesse is dat het koppelen van hoge kosten aan de productie, maar vooral de verspreiding van nepnieuws kan de meest effectieve tool blijken te zijn die we hebben om de verspreiding ervan tegen te gaan. Een hoge maatschappelijke investering in het verhogen van deze kosten loont, omdat de effecten van nepnieuws zo ontwrichtend zijn.

De ketting doorbreken

Onderzoek naar informatieoorlogvoering van meer dan tien jaar geleden wees uit dat proxy-levering een belangrijke vermenigvuldiger was in de verspreiding van giftige propaganda.

Bijvoorbeeld, massamedia die gewelddadige beelden en door terroristen geproduceerde beelden verspreidden, fungeerden als volmachten voor de terroristen die de propaganda produceerden, of ze het wisten of niet.

Gebruikers van sociale media die nepnieuws delen, treden eveneens op als volmachten voor de producenten van nepnieuws. Dergelijke gebruikers worden meestal gecast als slachtoffers van nepnieuws - wat ze meestal zijn - maar elke keer dat ze nepnieuws delen, worden ze deelnemers aan het bedrog van de nepnieuwsproducent.

Het is niet eenvoudig om kosten te verbinden aan de verspreiding van nepnieuws op sociale media. Het informele uitje van gewone posters van nepnieuws is een optie, wat overeenkomt met de evolutionaire psychologie van cheaterdetectie.

Sociale-mediaorganisaties zoals Facebook zeggen dat ze proactiever proberen te zijn bij het detecteren van nepnieuws en nepnieuws, hetzij door machine learning-technologie of externe factcheckers, en zegt dat het enkele recente successen heeft gehad.

Maar beide ideeën lopen tegen het lastigere probleem aan om precies te bepalen wat nepnieuws is of niet. Onaangename feiten worden te vaak bestempeld als "nepnieuws".

De betrouwbaarheid en objectiviteit van factcheckers kan sterk variëren – grondwaarheden worden vaak verdoezeld door vooringenomenheid, en beperkingen in begrip.

Momenteel, in tegenstelling tot beweringen van sommige aanbieders van sociale media, AI is niet in staat om nepnieuws te vinden en te verwijderen, wat de verantwoordelijkheid weer bij ons mensen legt.

We kunnen allemaal helpen door gewoon een beetje na te denken voordat we willen, informatie delen of retweeten op sociale media. Misschien kunt u een paar zoekcontroles uitvoeren om te zien of bekend is dat de informatie waar of nep is.

Ongediertebestrijding is een gevestigde praktijk in biologische ecosystemen, en is duidelijk te laat voor het informatie-ecosysteem.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.