Een team van onderzoekers, inclusief faculteit aan Binghamton University, hebben machine learning-algoritmen ontwikkeld die pesters en agressors op Twitter met een nauwkeurigheid van 90 procent kunnen identificeren.

Effectieve tools voor het detecteren van schadelijke acties op sociale media zijn schaars, omdat dit soort gedrag vaak dubbelzinnig van aard is en/of wordt vertoond via schijnbaar oppervlakkige opmerkingen en kritiek. Om deze kloof te dichten, een onderzoeksteam met Binghamton University computerwetenschapper Jeremy Blackburn analyseerde de gedragspatronen van misbruikende Twitter-gebruikers en hun verschillen met andere Twitter-gebruikers.

"We hebben crawlers gebouwd - programma's die gegevens van Twitter verzamelen via verschillende mechanismen, " zei Blackburn. "We verzamelden tweets van Twitter-gebruikers, hun profielen, evenals (sociale) netwerkgerelateerde zaken, zoals wie ze volgen en wie hen volgt."

De onderzoekers voerden vervolgens natuurlijke taalverwerking en sentimentanalyse uit op de tweets zelf, evenals een verscheidenheid aan sociale netwerkanalyses over de verbindingen tussen gebruikers. De onderzoekers ontwikkelden algoritmen om automatisch twee specifieke soorten aanstootgevend online gedrag te classificeren, d.w.z., cyberpesten en cyberagressie. De algoritmen waren in staat om misbruikende gebruikers op Twitter te identificeren met een nauwkeurigheid van 90 procent. Dit zijn gebruikers die intimiderend gedrag vertonen, bijv. degenen die doodsbedreigingen sturen of racistische opmerkingen maken aan gebruikers.

"In een notendop, de algoritmen 'leren' hoe ze het verschil kunnen zien tussen pestkoppen en typische gebruikers door bepaalde kenmerken te wegen naarmate ze meer voorbeelden krijgen, ' zei Blackburn.

Hoewel dit onderzoek cyberpesten kan helpen verminderen, het is slechts een eerste stap, zei Blackburn.

"Een van de grootste problemen met cyberveiligheidsproblemen is de schade die wordt toegebracht aan mensen, en is zeer moeilijk ongedaan te maken, '" Zei Blackburn. "Bijvoorbeeld, ons onderzoek geeft aan dat machine learning kan worden gebruikt om automatisch gebruikers te detecteren die cyberpesten zijn, en zou dus Twitter en andere sociale-mediaplatforms kunnen helpen om problematische gebruikers te verwijderen. Echter, een dergelijk systeem is uiteindelijk reactief:het verhindert niet inherent pestgedrag, het identificeert alleen dat ze op grote schaal plaatsvinden. En de ongelukkige waarheid is dat zelfs als pestaccounts worden verwijderd, zelfs als al hun eerdere aanvallen zijn verwijderd, de slachtoffers zagen ze nog steeds en werden er mogelijk door getroffen."

Blackburn en zijn team onderzoeken momenteel proactieve mitigatietechnieken om intimidatiecampagnes aan te pakken.

De studie, "Cyberpesten en cyberagressie detecteren op sociale media, " werd gepubliceerd in Transacties op het web .