Online haat gedijt wereldwijd door zelfgeorganiseerde, schaalbare clusters die onderling verbinden om veerkrachtige netwerken te vormen, verspreid over meerdere sociale mediaplatforms, landen en talen, volgens nieuw onderzoek dat vandaag in het tijdschrift is gepubliceerd Natuur . Onderzoekers van de George Washington University ontwikkelden een kaartmodel, de eerste in zijn soort, om te volgen hoe deze online haatclusters gedijen. Ze denken dat het sociale-mediaplatforms en wetshandhavers kan helpen in de strijd tegen online haat.

Met de explosie van sociale media, individuen kunnen in een paar klikken contact maken met andere gelijkgestemde mensen. Clusters van mensen met gemeenschappelijke interesses vormen zich gemakkelijk en gemakkelijk. Onlangs, online haat-ideologieën en extremistische verhalen zijn in verband gebracht met een toename van misdaden over de hele wereld. Om dit te dwarsbomen, onderzoekers onder leiding van Neil Johnson, hoogleraar natuurkunde aan GW, uiteengezet om beter te begrijpen hoe online haat evolueert en of het kan worden gestopt.

"Haat vernietigt levens, niet alleen zoals we hebben gezien in El Paso, Orlando en Nieuw-Zeeland, maar psychologisch door online pesten en retoriek, "Zei Dr. Johnson. "We wilden online haat tot op de bodem uitzoeken door te kijken waarom het zo veerkrachtig is en hoe het beter kan worden aangepakt. In plaats van liefde in de lucht te houden, we ontdekten dat haat in de ether zit."

Om te begrijpen hoe haat online evolueert, het team begon met het in kaart brengen van hoe clusters met elkaar verbonden zijn om hun verhalen te verspreiden en nieuwe rekruten aan te trekken. Focussen op sociale media platforms Facebook en zijn Centraal-Europese tegenhanger, VKontakte, de onderzoekers begonnen met een bepaald haatcluster en keken naar buiten om een ​​tweede te vinden die sterk verbonden was met het origineel. Ze ontdekten dat haat de grenzen van specifieke internetplatforms overschrijdt, inclusief Instagram, Snapchat en WhatsApp; geografische locatie, waaronder de Verenigde Staten, Zuid-Afrika en delen van Europa; en talen, inclusief Engels en Russisch.

De onderzoekers zagen hoe clusters nieuwe adaptatiestrategieën creëerden om zich te hergroeperen op andere platforms en/of opnieuw een platform te betreden nadat ze waren verbannen. Bijvoorbeeld, clusters kunnen migreren en opnieuw samenstellen op andere platforms of verschillende talen gebruiken om detectie te voorkomen. Hierdoor kan het cluster snel duizenden supporters terugbrengen naar een platform waarop ze zijn verbannen en wordt de noodzaak van platformoverschrijdende samenwerking benadrukt om online haatgroepen te beperken.

"De analogie is hoeveel onkruidverdelger je ook in een tuin plaatst, het probleem komt terug, mogelijk agressiever. In de onlinewereld, alle werven in de buurt zijn op een zeer complexe manier met elkaar verbonden - bijna als wormgaten. Dit is de reden waarom individuele sociale-mediaplatforms zoals Facebook nieuwe analyses zoals de onze nodig hebben om nieuwe benaderingen te bedenken om ze voorop te stellen, "Zei Dr. Johnson.

Het team, waaronder onderzoekers van de Universiteit van Miami, gebruikte inzichten uit zijn online haatmapping om vier interventiestrategieën te ontwikkelen die sociale-mediaplatforms onmiddellijk konden implementeren op basis van situationele omstandigheden:

• Verminder de kracht en het aantal grote clusters door de kleinere clusters die erin worden verwerkt, te verbieden.
• Val de achilleshiel van online haatgroepen aan door willekeurig een klein deel van de individuele gebruikers te weren om het wereldwijde clusternetwerk uit elkaar te laten vallen.
• Zet grote clusters tegen elkaar op door anti-haatclusters te helpen haatclusters te vinden en er rechtstreeks mee om te gaan.
• Zet intermediaire clusters op die zich bezighouden met haatgroepen om de verschillen in ideologieën tussen hen naar voren te brengen en hen ertoe te brengen hun standpunt in twijfel te trekken.

De onderzoekers merkten op dat elk van hun strategieën op wereldwijde schaal en tegelijkertijd op alle platforms kan worden toegepast zonder de gevoelige informatie van individuele gebruikers of commerciële geheimen te hoeven delen, wat vroeger een struikelblok was.

Met behulp van deze kaart en zijn wiskundige modellering als basis, Dr. Johnson en zijn team ontwikkelen software die regelgevers en handhavingsinstanties kan helpen bij het implementeren van nieuwe interventies.