Indiana University's Observatory on Social Media heeft een nieuwe tool gelanceerd in de strijd tegen online desinformatie:BotSlayer.

De software, die gratis en voor het publiek toegankelijk is, scant sociale media in realtime om bewijs te detecteren van geautomatiseerde Twitter-accounts - of "bots" - die berichten op een gecoördineerde manier pushen, een steeds vaker voorkomende praktijk om de publieke opinie te manipuleren door de valse indruk te wekken dat veel mensen het over een bepaald onderwerp hebben. De methode staat ook bekend als "astroturfing" omdat het de schijn nabootst van legitieme politieke activiteiten aan de basis.

Door gebruik te maken van de expertise en technologische infrastructuur van het observatorium, BotSlayer geeft groepen en individuen van elke politieke overtuiging de macht om gecoördineerde desinformatiecampagnes in realtime te detecteren, zonder enige voorkennis van deze campagnes. De ontwikkeling van de software werd ondersteund door een gift van Craig Newmark Philanthropies.

"We hebben BotSlayer ontwikkeld om het voor journalisten en politieke campagnes gemakkelijker te maken om potentiële nieuwe desinformatiecampagnes te volgen die proberen de publieke opinie te manipuleren met behulp van bots, " zei Filippo Menczer, een professor aan de IU School of Informatics, Computing and Engineering en directeur van de Observatory on Social Media. "Als er een verdachte piek in het verkeer is rond een specifiek onderwerp, Met BotSlayer kun je het heel snel herkennen, zodat je de inhoud en de promotors kunt onderzoeken en, als blijkt dat er misbruik is gemaakt van het platform, meld het of communiceer erover met je volgers."

Het gebruik van bedrieglijke bots om de publieke opinie te beïnvloeden is een groeiend probleem in de politiek in de VS en internationaal, voegde Menczer toe, die ook deel uitmaakt van een groep onderzoekers die het veelvuldig gebruik van bots ontdekte in de aanloop naar de Amerikaanse presidentsverkiezingen van 2016. Andere botcampagnes hebben geprobeerd stemmen te beïnvloeden die verband houden met de Britse Brexit-beweging en verkiezingen in Frankrijk, Duitsland en Italië.

In de aanloop naar de tussentijdse verkiezingen in 2018, bijvoorbeeld, het Democratic Congressional Campaign Committee gebruikte openbaar beschikbare tools die door het observatorium zijn gemaakt om meer dan 10 te rapporteren, 000 bots verspreiden kiezersonderdrukkingsberichten naar Twitter, die de rekeningen sloten. De instrumenten die werden gebruikt om het rapport te informeren waren Botometer, die een algoritme gebruikt om een ​​score toe te kennen aan Twitter-accounts op basis van de waarschijnlijkheid dat ze geautomatiseerd zijn, en Hoaxy, waarmee individuen de verspreiding van specifieke onderwerpen op Twitter in realtime kunnen zoeken en visualiseren. Botometer is een van de meest populaire instrumenten van het observatorium, momenteel meer dan 100 ontvangen, 000 vragen per dag.

BotSlayer, die technologie van Hoaxy en Botometer combineert, is gedeeltelijk gemaakt op basis van feedback van politieke en nieuwsorganisaties die vroegen om de instrumenten van het observatorium sneller te maken, krachtiger en gebruiksvriendelijker. Deze organisaties zijn onder meer The Associated Press, The New York Times en CNN.

Het systeem gebruikt een "anomaliedetectie-algoritme" om snel trending-activiteiten te rapporteren waarvan de plotselinge stijging waarschijnlijk wordt veroorzaakt door bots, zei Menzer.

Bijvoorbeeld, BotSlayer kan tijdens een presidentieel debat worden gebruikt om niet alleen direct te detecteren wanneer de gebruikersnaam of gerelateerde hashtags van een kandidaat trending zijn, maar wijs ook automatisch een "botscore" toe om aan te geven of de stijging verband houdt met botactiviteit. In het bedrijfsleven, BotSlayer kan organisaties helpen zich te beschermen tegen reputatiebedreigingen die afhankelijk zijn van geautomatiseerde accounts om berichten te versterken. In de journalistiek, de tool zou kunnen worden gebruikt om te controleren op manipulatie van rapportage over trending topics, of het publiek waarschuwen voor desinformatie-aanvallen.

Naast het detecteren van trends, BotSlayer kan direct een "netwerkkaart" genereren die illustreert hoe een bepaald onderwerp zich in de loop van de tijd verspreidt. Er wordt ook een botscore toegekend aan elke gebruiker in het netwerk, een gemakkelijke manier om de meest invloedrijke accounts - echt of nep - in het gesprek te zien. Elke trending "entiteit" - een hashtag; een gebruikershandvat; een afbeelding, video, gif of meme; of een trefwoord of woordgroep—wordt ook een percentage toegewezen om aan te geven hoe snel het stijgt. Een percentage van 5, 000 duidt op een 50-voudige toename van het aantal vermeldingen in de afgelopen vier uur, bijvoorbeeld.

Om BotSlayer te gebruiken, gebruikers kunnen de software downloaden via een online formulier en eenvoudige instructies volgen om deze in de cloud of op hun eigen server te installeren. Dit proces kan in een paar klikken worden uitgevoerd, en zonder kosten. Hiermee kunnen gebruikers hun gebruik van de tool personaliseren en wordt de privacy beschermd. Het systeem is toegankelijk via een webdashboard dat is geïntegreerd met de andere tools van het observatorium.

Wat ze zeggen

"BotSlayer heeft het potentieel om een ​​zeer krachtig nieuw hulpmiddel te zijn in onze wereldwijde strijd tegen desinformatie en desinformatie. Tijdens de verkiezingen van 2018, we gebruikten een eerdere versie van BotSlayer om kwaadaardige accounts te identificeren en uiteindelijk te verwijderen tijdens de algemene verkiezingen. Het was zeer effectief en gemakkelijk te gebruiken. Dit baanbrekende werk van IU's Observatory on Social Media is een buitengewone openbare dienst en zeer welkom. Ik hoop dat actoren in democratieën over de hele wereld er misbruik van maken, net als bij de laatste verkiezingen hier in de VS." — Simon Rosenberg, een democratisch strateeg en senior adviseur van de DCCC tijdens de verkiezingscyclus 2017-18.