Nieuw onderzoek heeft een manier gevonden om extremisten te identificeren, zoals die geassocieerd met de terroristische groepering ISIS, door hun sociale media-accounts te controleren, en kunnen ze identificeren nog voordat ze bedreigende inhoud plaatsen.

Het onderzoek, "Extremisten vinden in online sociale netwerken, " die onlangs werd gepubliceerd in het tijdschrift INFORMS Operationeel onderzoek , werd uitgevoerd door Tauhid Zaman van het Massachusetts Institute of Technology; Luitenant-kolonel Christopher E. Marks, Amerikaanse leger; en Jytte Klausen van Brandeis University

Het aantal en de omvang van online extremistische groepen die sociale netwerken gebruiken om gebruikers lastig te vallen, nieuwe leden werven, en aanzetten tot geweld neemt snel toe. Terwijl socialemediaplatforms werken om dit tegen te gaan (in 2016, Twitter meldde dat het 360 had afgesloten, 000 ISIS-accounts) zijn ze traditioneel sterk afhankelijk van gebruikersrapporten om deze accounts te identificeren.

In aanvulling, zodra een account is opgeschort, er is weinig dat kan worden gedaan om te voorkomen dat een gebruiker een nieuw account opent, of meerdere rekeningen.

"Sociale media zijn een krachtig platform geworden voor extremistische groeperingen, variërend van ISIS tot blanke nationalistische "alt-right" groepen, "zei Zaman. "Deze groepen gebruiken sociale netwerken om haatzaaiende propaganda te verspreiden en aan te zetten tot geweld en terreuraanslagen, waardoor ze een bedreiging vormen voor het grote publiek."

Extremisten identificeren voordat ze online een bedreiging vormen

De onderzoekers verzamelden Twitter-gegevens van ongeveer 5, 000 "zaad"-gebruikers die ofwel bekende ISIS-leden waren of die als vrienden of volgers verbonden waren met vele bekende ISIS-leden. Ze kregen hun naam door nieuwsberichten, blogs, en rapporten vrijgegeven door wetshandhavingsinstanties en denktanks.

Naast het bekijken van de inhoud van 4,8 miljoen tweets uit de tijdlijnen van deze gebruikers (inclusief tekst, koppelingen, hash-tags, en vermeldingen), ze volgden ook accountopschortingen, evenals eventuele schorsingen van hun vrienden- en volgersaccounts.

Voor het doel van deze studie, de onderzoekers richtten zich op de accountnetwerken die zijn gesmeed door bekende ISIS- en Al Qaida-sympathisanten en bekende buitenlandse strijders en inhoud die door Twitter was gemarkeerd als terroristisch van aard.

Met behulp van statistische modellering van extremistisch gedrag met geoptimaliseerd zoekbeleid en actuele ISIS-gebruikersgegevens, de onderzoekers ontwikkelden een methode om nieuwe extremistische gebruikers te voorspellen, identificeren of meer dan één account tot dezelfde gebruiker behoort, evenals netwerkverbindingen voorspellen van geschorste extremistische gebruikers die een nieuw account starten.

In aanvulling, door gegevens over schermnamen te volgen en te vergelijken, gebruikersnaam, profielafbeeldingen en bannerafbeeldingen, de onderzoekers konden ook 70 procent van de extra Twitter-profielen van extremistische gebruikers identificeren, met slechts een incidentie van 2 procent van het verkeerd classificeren van profielen.

"We hebben een nieuwe reeks operationele capaciteiten gecreëerd om het hoofd te bieden aan de dreiging van online-extremisten in sociale netwerken, " zei Marks. "We kunnen voorspellen wie een extremist is voordat ze inhoud plaatsen, en vervolgens kunnen voorspellen waar ze het netwerk opnieuw zullen betreden nadat ze zijn opgeschort. Kortom, we kunnen automatisch achterhalen wie een extremist is en ze van het sociale netwerk houden."

Terwijl het onderzoek werd uitgevoerd met behulp van gegevens van accounts van ISIS-extremisten op Twitter, hun methodologie kan worden toegepast op elke extremistische groepering en elk sociaal netwerk.

"Gebruikers die zich bezighouden met een of andere vorm van online extremisme of intimidatie, zullen zeer vergelijkbare gedragskenmerken hebben in sociale netwerken, "zei Klausen. "Ze zullen verbinding maken met een specifieke groep gebruikers die hun extremistische groep vormen. Ze zullen nieuwe accounts aanmaken die op hun oude accounts lijken nadat ze zijn opgeschort, en wanneer de terugkeer naar het sociale netwerk na een schorsing, er is een grote kans dat ze opnieuw contact zullen maken met bepaalde voormalige vrienden."