Te midden van de wereldwijde pandemie van het coronavirus, desinformatie over de situatie verspreidt zich razendsnel op sociale media. In de woorden van Kathleen Carley, een CyLab-faculteitslid en een professor aan het Institute for Software Research van de School of Computer Science, "Dit is gevaarlijk." Haar onderzoeksgroep heeft de situatie nauwlettend gevolgd en hun bevindingen regelmatig gedeeld.

Je hebt desinformatiecampagnes rond allerlei evenementen bestudeerd, variërend van verkiezingen tot natuurrampen. Wat zie je nu tijdens deze coronapandemie?

In een voorstudie is we keken naar Twitter-berichten over het coronavirus, genaamd SARS-CoV-2, en de ziekte die het veroorzaakt, COVID-19, tussen 29 januari en 4 maart – meer dan 67 miljoen tweets van ongeveer 12 miljoen gebruikers. Deze periode was iets meer dan een week nadat de VS hun eerste gevallen bekendmaakten.

Wat we tot nu toe hebben gezien, is dat desinformatie hierover in minstens drie verschillende categorieën valt. Eerst, er zijn veel verhalen met onjuiste informatie over genezingen of preventieve maatregelen, zoals degenen die zeggen dat het drinken van bleekmiddel je zal beschermen, of dat het helpt om je lichaam in sesamolie te smeren. Tweede, er zijn een aantal verhalen over de aard van het virus, zoals de bewering dat kinderen het virus niet kunnen krijgen, wat niet waar is. als laatste, er zijn ook een aantal verhalen over bewapening of bio-engineering van het virus.

Welke rol hebben social media bots hierin gespeeld, en waar komen deze bots vandaan?

Het is te vroeg om te zeggen waar de bots vandaan komen, maar we merken dat 40 procent van de discussie over coronavirus en COVID-19 afkomstig is van bots. Van de gebruikers die zelf in gesprek gaan over het virus, we ontdekken dat ongeveer 22 procent van hen bots zijn.

Een groot probleem is dat deze bots erg invloedrijk zijn - het netwerk om hen heen is zo geconfigureerd dat ze veel luisteraars hebben. Tweeënveertig procent van de top 50 invloedrijke vermeldingen zijn bots, 82 procent van de top 50 invloedrijke re-tweeters zijn bots, en 62 procent van de top 1, 000 re-tweeters zijn bots. Dit betekent dat, vergelijkbaar met het virus zelf, desinformatie over het virus verspreidt zich snel – alleen veel, veel sneller.

Hoe verhoudt de desinformatie die u nu ziet zich tot de desinformatie in het verleden rond, zeggen, verkiezingen of natuurrampen?

Ten eerste, er is gewoon veel meer desinformatie over dit onderwerp dan je zou zien tijdens een verkiezing. De categorieën waarin het valt, zijn ook verschillend. Rond een verkiezing veel desinformatie rond het stemproces zelf, waar inschrijven, waar te stemmen, enz. Of het gaat om kandidaten - desinformatie die leidt tot laster van de kandidaten of om hun imago op te krikken.

In de huidige situatie, de desinformatie is minder gepersonaliseerd. Een groot deel van deze verhalen suggereert nepgenezingen en neppreventie. Vergeleken met een natuurrampscenario, je ziet soortgelijke dingen over nep-noodmaatregelen. Bijvoorbeeld, er werd op een gegeven moment desinformatie verspreid dat New York City was opgesloten onder de staat van beleg. Dat was en is niet waar. In dat opzicht is het meer een natuurramp dan een politieke gebeurtenis, maar je ziet nog steeds veel meer tijdens deze pandemie. En in tegenstelling tot de situatie tijdens verkiezingen, veel socialemediabedrijven proberen op dit moment desinformatie rond het coronavirus tegen te gaan.

Is uw advies voor gebruikers nu anders dan in het verleden?

Het is echt vergelijkbaar, en het is uiterst belangrijk gezien hoe gevaarlijk sommige van deze desinformatie is. Als u desinformatie ziet, roep het uit, omdat een deel ervan dodelijk is. Zie je satire of een grap over het virus of COVID-19, deel het niet; iemand die het leest, realiseert zich misschien niet dat het satire is.

Het gevaar rond deze desinformatie is enigszins nieuw. Tijdens verkiezingen, het delen van desinformatie vormt een bedreiging voor de democratie. Dat is heel slecht. In deze situatie, als u de richtlijnen in sommige van deze desinformatie volgt, je zou jezelf echt schade kunnen berokkenen.

Waar focus je op om vooruit te komen?

Naast het blijven volgen van desinformatie-activiteit op Twitter, we zijn ook geïnteresseerd in YouTube- en Reddit-gemeenschappen - de soorten desinformatie die daar worden gedeeld, en hoeveel ervan wordt versterkt door botaccounts. We hopen de komende weken wat resultaten te hebben over die netwerken.

Carley's lopende onderzoek wordt uitgevoerd in de Centrum voor Geïnformeerde Democratie en Sociale Cybersecurity (IDeaS) en de Centrum voor Computational Analyse en Organisatorische Systemen (CASOS) aan de Carnegie Mellon-universiteit.