Intimidatie is alomtegenwoordig geworden op sociale media en in de online wereld - Twitter ligt onder vuur vanwege de manier waarop het omgaat met intimidatie, Het trending-algoritme van YouTube heeft af en toe aanstootgevende video's gepromoot, en misbruik melden op Instagram is nog best lastig.

Hoewel de huidige tools voor intimidatie, zoals het blokkeren van gebruikers of het filteren van triggerwoorden, gedeeltelijk helpen, veel online mishandeling is zo subtiel dat een algoritme alleen mogelijk verschillende signalen niet oppikt.

Maar wat als mensen hun vrienden daadwerkelijk zouden kunnen gebruiken om hun accounts te beheren en hen te beschermen tegen beledigende berichten?

Een team van MIT's Computer Science and Artificial Intelligence Laboratory (CSAIL) gebruikt die aanpak met "Squadbox", een nieuwe crowdsourcing-tool waarmee mensen die het doelwit zijn geweest van intimidatie, "ploegen" van vrienden kunnen coördineren om berichten te filteren en hen te ondersteunen tijdens aanvallen.

Het team interviewde een reeks wetenschappers, activisten, en YouTube-persoonlijkheden, en ontdekte dat veel mensen die via e-mail worden lastiggevallen, afhankelijk zijn van vrienden en familie om zichzelf te beschermen tegen beledigende berichten.

Senior auteur en MIT-professor David Karger zegt dat Squadbox ernaar streeft om deze zogenaamde "friend-sourcing" efficiënter te maken en minder werk voor zijn moderators.

"Als je moderators de sleutels van je inbox geeft, hoe weet de moderator wanneer er een e-mail is om te modereren, en welke e-mail is al behandeld door andere moderators?", zegt Karger. "Squadbox stelt gebruikers in staat om aan te passen hoe inkomende e-mail wordt behandeld, het werk verdelen om ervoor te zorgen dat er geen dubbel werk is."

Karger schreef het nieuwe artikel samen met promovendus Amy Zhang en voormalig MIT-student en huidige software-engineer Kaitlin Mahar. Het team zal het werk in april presenteren op ACM's CHI Conference on Human Factors in Computing Systems in Montreal, Canada.

Moderatie op basis van vrienden

Met Squadbox, de "eigenaar" van het squadron kan filters instellen om inkomende inhoud automatisch door te sturen naar de moderatiepijplijn. Zodra een e-mail binnenkomt, een moderator beslist welke e-mails intimidatie zijn, en die kan worden teruggestuurd naar de inbox van de persoon.

Bijvoorbeeld, laten we zeggen dat een journalist een openbaar e-mailadres wil hebben om nieuwstips te ontvangen, maar vreest er een te hebben omdat ze zo vaak wordt lastiggevallen door mensen die het niet eens zijn met haar rapportage. Ze zou een Squadbox-account kunnen maken met twee naaste collega's als moderators, en vervolgens haar account overal gebruiken waar ze haar e-mailadres wil delen. Elke e-mail die ze op dat adres ontvangt, gaat eerst door haar team.

"Eerdere oplossingen waren volledig afhankelijk van geautomatiseerde technieken, of waren te afhankelijk van sociale oplossingen, zoals het simpelweg geven van accountgegevens aan een vriend, " zegt Clifford Lampe, een professor in informatie aan de Universiteit van Michigan. "Dit werk helpt bij het bieden van een kaart voor één hybride oplossing voor intimidatie die de menselijke ondersteuning op een zinvolle manier vergroot met tools."

Hoewel het team van plan is de mogelijkheden van Squadbox uit te breiden om met sociale mediaplatforms te werken, ze zeggen dat e-mail een bijzonder nuttig systeem is om intimidatie te bestuderen.

"Het interessante aan e-mail is dat het niet in de openbaarheid komt zoals Twitter of Facebook, ", zegt Karger. "Dat betekent dat pesters zich minder verantwoordelijk kunnen voelen omdat hun opmerkingen niet openbaar zijn."

Met Squadbox kunnen gebruikers ook "witte lijsten" en "zwarte lijsten" maken van afzenders wiens e-mails automatisch worden goedgekeurd of afgewezen zonder matiging. Gebruikers kunnen het systeem ook deactiveren en opnieuw activeren, lees scores op de giftigheid van berichten, en zelfs reageren op pesters.

"Intimidatie is een inherent ontkrachtende ervaring, en door nabestaanden opties te geven, kunnen ze weer controle krijgen, " zegt Emily May, mede-oprichter en uitvoerend directeur van het wereldwijde anti-intimidatie-initiatief Hollaback! "Squadbox is ontworpen om mensen er niet alleen aan te herinneren dat ze een gemeenschap om zich heen hebben, maar om die gemeenschap namens hen te activeren."

Het team evalueerde Squadbox op vijf paar vrienden, en ontdekte dat het gebruik van vrienden hielp bij de angst voor privacy en meer op maat gemaakte beslissingen voor slachtoffers mogelijk maakte. Echter, gebruikers waren nog steeds bang dat een vriend gevoelig zou kunnen zijn voor trage reactietijden, en dat het systeem ook de last zou kunnen "spreiden". Het team zegt dat het hebben van meerdere moderators dit probleem mogelijk kan helpen.

"Squadbox biedt een tastbaar systeem van ondersteuning voor mensen die online worden lastiggevallen door andere mensen te gebruiken, ", zegt May. "We moeten de overlevenden weer de controle geven en gemeenschappen creëren die sterk genoeg zijn om te verklaren:dit is niet het internet dat we willen. Het is niet de wereld die we willen. En we gaan er niet meer voor staan."