Onderzoekers van de University of Colorado Boulder hebben een nieuwe techniek ontworpen om vervelende persoonlijke aanvallen op sociale media zoals Instagram te spotten.

De nieuwe aanpak, ontwikkeld door CU Boulder's CyberSafety Research Center, combineert verschillende computertools om enorme hoeveelheden sociale-mediagegevens te scannen, het verzenden van waarschuwingen naar ouders of netwerkbeheerders dat er misbruik heeft plaatsgevonden.

Het is razendsnel, ook:in recent gepubliceerd onderzoek de groep meldde dat hun aanpak vijf keer minder computerbronnen gebruikt dan bestaande tools. Dat is efficiënt genoeg om een ​​netwerk ter grootte van Instagram te monitoren voor een bescheiden investering in serverkracht, zei studie co-auteur Richard Han.

"De respons van de sociale medianetwerken op nepnieuws is de laatste tijd toegenomen, hoewel het ernstige gevolgen had om dat punt te bereiken, " zei Han, een universitair hoofddocent bij de afdeling Informatica. "De reactie op cyberpesten moet net zo sterk zijn."

De groep heeft ook een gratis app voor Android-telefoons uitgebracht waarmee ouders meldingen kunnen ontvangen wanneer hun kinderen het slachtoffer zijn van pesterijen op Instagram. Studie co-auteur Shivakant Mishra legde uit dat de app, genaamd BullyAlert, kunnen leren van en zich aanpassen aan wat ouders als pesten beschouwen.

"Als ouder Ik weet dat we vaak niet volledig op de hoogte zijn van wat onze kinderen doen op hun sociale netwerken, " zei Misra, een professor in de informatica. "Een app als deze die ons informeert wanneer er iets problematisch is, is van onschatbare waarde."

Om hun gereedschapskist te bouwen, de CyberSafety-onderzoekers gebruikten eerst echte mensen om een ​​computerprogramma te leren hoe goedaardige online opmerkingen van misbruik te scheiden.

Volgende, de onderzoekers ontwierpen een systeem dat een beetje werkt als ziekenhuistriage. Wanneer een gebruiker een nieuw bericht uploadt, de tools van de groep maken een snelle scan van de opmerkingen. Als die opmerkingen twijfelachtig lijken, dan krijgt die post hoge prioriteit om verdere controles te ontvangen. Maar als de opmerkingen allemaal liefdadig lijken, dan stoot het systeem de post naar de onderkant van de wachtrij.

"Ons doel is om ons te concentreren op de meest kwetsbare sessies, "Zei Han. "We blijven alle sessies volgen, maar we volgen vaker die sessies waarvan we denken dat ze problematischer zijn."

En het werkt:de onderzoekers testten hun aanpak op real-world data van Vine, een inmiddels ter ziele gegane platform voor het delen van video's, en Instagram. Han legde uit dat het team die netwerken heeft gekozen omdat ze hun gegevens openbaar beschikbaar maken.

In onderzoek gepresenteerd op een conferentie in april, de groep berekende dat hun toolset het verkeer op Vine en Instagram in realtime kon volgen, het detecteren van cyberpesten met een nauwkeurigheid van 70 procent. Bovendien, de aanpak zou ook waarschuwingsvlaggen kunnen sturen binnen twee uur na het begin van misbruik - een prestatie die ongeëvenaard is door de momenteel beschikbare software.

Rahat ibn Rafiq, een CU Boulder afgestudeerde student in computerwetenschappen, is de hoofdauteur van de nieuwe studie. Andere co-auteurs zijn onder meer CU Boulder Associate Professor Qin (Christine) Lv en Homa Hosseinmardi van de University of Southern California.