De manipulatie van de publieke opinie via sociale-mediaplatforms is naar voren gekomen als een kritieke bedreiging voor het openbare leven. Rond de wereld, overheidsinstanties en politieke partijen exploiteren socialemediaplatforms om junknieuws en desinformatie te verspreiden, censuur en controle uitoefenen, en het vertrouwen in de media ondermijnen, openbare instellingen en wetenschap.

Nutsvoorzieningen, een nieuw rapport van het Oxford Internet Institute (OII) van de Universiteit van Oxford, heeft geconstateerd dat ondanks pogingen om computerpropaganda te bestrijden, het probleem groeit op grote schaal.

"Het aantal landen waar formeel georganiseerde manipulatie van sociale media plaatsvindt, is enorm toegenomen, van 28 tot 48 landen wereldwijd, " zegt Samantha Bradshaw, medeauteur van het rapport. "Het grootste deel van de groei komt van politieke partijen die desinformatie en junknieuws verspreiden rond verkiezingsperioden. Er zijn meer politieke partijen die leren van de strategieën die zijn ingezet tijdens de Brexit en de Amerikaanse presidentsverkiezingen van 2016:meer campagnes gebruiken bots, junk nieuws, en desinformatie om kiezers te polariseren en te manipuleren."

Dit ondanks pogingen van regeringen in veel democratieën om nieuwe wetgeving in te voeren die bedoeld is om nepnieuws op internet te bestrijden. "Het probleem hiermee is dat deze 'taskforces' om nepnieuws te bestrijden worden gebruikt als een nieuw instrument om censuur in autoritaire regimes te legitimeren. " zegt professor Phil Howard, co-auteur en hoofdonderzoeker van het OII's Computational Propaganda-project. "Op zijn best, dit soort taskforces creëren tegenverhalen en bouwen instrumenten voor burgerbewustzijn en feitencontrole."

Een andere uitdaging is de evolutie van de media die individuen gebruiken om nieuws en informatie te delen. "Er zijn aanwijzingen dat desinformatiecampagnes zich verplaatsen naar chattoepassingen en alternatieve platforms, ", zegt Bradshaw. "Dit komt steeds vaker voor in het Zuiden, waar grote openbare groepen op chat-applicaties populairder zijn."

Geautomatiseerde bot-accounts blijven nog steeds een veelgebruikte tactiek. Online commentatoren en nep-accounts worden gebruikt om pro-party berichten te verspreiden, maar ook om strategisch inhoud te delen of te posten met behulp van trefwoorden voor game-algoritmen en om bepaalde inhoud trending te krijgen. Ze worden ook gebruikt om op grote schaal legitieme inhoud en accounts te rapporteren, waardoor ze tijdelijk worden verwijderd. "We vermoeden dat er nieuwe innovatie zal blijven ontstaan ​​naarmate platforms en overheden wettelijke en regelgevende stappen nemen om dit soort activiteiten te beteugelen, " zegt Howard.

Algemeen, het gebruik van georganiseerde manipulatiecampagnes op sociale media is een big business. "We schatten dat er tientallen miljoenen dollars worden uitgegeven aan dit soort activiteiten, ", zegt Howard. "Een deel van het geld kan worden besteed aan legitieme advertenties op sociale media, maar er is zeker een groeiende industrie voor nepaccounts, online commentatoren, en politieke bots."