Het duizelingwekkende aantal van meer dan drie miljard nepaccounts die gedurende een periode van zes maanden door Facebook zijn geblokkeerd, benadrukt de uitdagingen waarmee sociale netwerken worden geconfronteerd bij het terugdringen van geautomatiseerde accounts, of bots, en andere snode pogingen om de platforms te manipuleren.

Hier zijn vier belangrijke vragen over nepaccounts:

Hoe zijn er zoveel nepaccounts ontstaan?

Facebook zei deze week dat het 1,2 miljard nepaccounts heeft "uitgeschakeld" in de laatste drie maanden van 2018 en 2,19 miljard in het eerste kwartaal van 2019.

De meeste nep-accounts op sociale media zijn "bots, " gemaakt door geautomatiseerde programma's om bepaalde soorten informatie te plaatsen - een schending van de servicevoorwaarden van Facebook en onderdeel van een poging om sociale gesprekken te manipuleren. Geavanceerde acteurs kunnen miljoenen accounts maken met hetzelfde programma.

Facebook zei dat zijn kunstmatige intelligentie de meeste van deze inspanningen detecteert en de accounts uitschakelt voordat ze op het platform kunnen posten. Nog altijd, het erkent dat ongeveer vijf procent van de meer dan twee miljard actieve Facebook-accounts waarschijnlijk nep zijn.

Wat is de schade van valse accounts?

Nep-accounts kunnen worden gebruikt om de populariteit of afkeer van een persoon of beweging te vergroten, waardoor de mening van gebruikers over het ware publieke sentiment wordt vervormd.

Bots speelden een onevenredige rol bij het verspreiden van verkeerde informatie op sociale media voorafgaand aan de Amerikaanse verkiezingen van 2016, volgens onderzoekers. Kwaadwillenden gebruiken dit soort nepaccounts om wantrouwen en sociale verdeeldheid te zaaien in vele delen van de wereld, in sommige gevallen aanzetten tot geweld tegen groepen of individuen.

Bots "manipuleren niet alleen het gesprek, ze bouwen groepen en overbruggen groepen, " zei computerwetenschapper Kathleen Carley van Carnegie Mellon University, die onderzoek heeft gedaan naar bots voor sociale media.

"Ze kunnen mensen in de ene groep laten geloven dat ze hetzelfde denken als mensen in een andere groep, en daarbij bouwen ze echokamers."

Facebook zegt dat zijn kunstmatige-intelligentietools nepaccounts kunnen identificeren en blokkeren terwijl ze worden gemaakt - en dus voordat ze verkeerde informatie kunnen plaatsen.

"Deze systemen gebruiken een combinatie van signalen, zoals patronen bij het gebruik van verdachte e-mailadressen, verdachte handelingen, of andere signalen die eerder zijn gekoppeld aan andere nepaccounts die we hebben verwijderd, ", zei Alex Schultz, vice-president van Facebook-analyse, in een blogpost.

Heeft Facebook de controle over de situatie?

De cijfers uit het transparantierapport van Facebook suggereren dat Facebook agressief optreedt tegen nepaccounts, zei Onur Varol, een postdoctoraal onderzoeker bij het Center for Complex Network Research aan de Northeastern University.

"Drie miljard is een groot aantal - het laat zien dat ze geen nepaccounts willen missen. Maar ze zijn bereid het risico te nemen" om sommige legitieme accounts uit te schakelen, zei Varol.

Legitieme gebruikers kunnen hinder ondervinden, maar kunnen over het algemeen hun rekeningen hersteld krijgen, merkte de onderzoeker op.

"Mijn gevoel is dat Facebook serieuze inspanningen levert" om nepaccounts te bestrijden, hij voegde toe.

Maar nieuwe bots worden steeds geavanceerder en moeilijker te detecteren, omdat ze taal bijna net zo goed kunnen gebruiken als mensen, volgens Carley.

"Facebook heeft misschien de strijd van gisteren opgelost, maar de aard van deze dingen verandert zo snel dat ze de nieuwe misschien niet krijgen. " ze zei.

Varol was het ermee eens, opmerkend dat "er bots zijn die natuurlijke taal begrijpen en op mensen kunnen reageren, en daarom is het belangrijk om het onderzoek gaande te houden."

Moet ik me zorgen maken over bots en nepaccounts?

Veel gebruikers kunnen het verschil niet zien tussen een echt en een nepaccount, zeggen onderzoekers. Facebook en Twitter hebben hun inspanningen opgevoerd om valse accounts te identificeren en te verwijderen, en sommige openbare tools zoals Botometer ontwikkeld door Varol en andere onderzoekers kunnen helpen bij het bepalen van de waarschijnlijkheid van valse Twitter-accounts en volgers.

"Als je Facebook gebruikt om met familie en vrienden te communiceren, hoef je je geen zorgen te maken, " zei Filippo Menczer, een computerwetenschapper die onderzoek doet naar sociale media aan de Indiana University.

"Als je het gebruikt om toegang te krijgen tot nieuws en dat te delen met vrienden, je moet voorzichtig zijn."

Menczer zei dat veel Facebook-gebruikers weinig aandacht besteden aan de bron van het materiaal en mogelijk valse of misleidende informatie delen.

"Iedereen denkt dat ze niet gemanipuleerd kunnen worden, maar we zijn allemaal kwetsbaar, " hij zei.

Samen met bots, mensen vormen een sleutelelement in de desinformatieketen, zeggen onderzoekers.

"De meeste valse informatie komt niet van bots, "Zei Carley. "Het meeste komt van blogs en de bots zenden het opnieuw uit" om de verkeerde informatie te versterken.

Facebook-chef Mark Zuckerberg zei dat Facebook de financiële prikkels van nepaccounts wil elimineren.

"Veel van de schadelijke inhoud die we zien, inclusief verkeerde informatie, zijn in feite commercieel gemotiveerd, Zuckerberg vertelde verslaggevers. "Dus een van de beste tactieken is het verwijderen van prikkels om stroomopwaarts valse accounts aan te maken, die inhoud die stroomafwaarts is gemaakt, beperkt."

© 2019 AFP