De opkomst van online haatzaaien is een verontrustende, groeiende trend in landen over de hele wereld, met ernstige psychologische gevolgen en de mogelijkheid van impact, en zelfs bijdragen aan geweld in de echte wereld. Door burgers gegenereerde tegenspraak kan haatdragende online retoriek helpen ontmoedigen, maar het was moeilijk te kwantificeren en te bestuderen. Tot voor kort, studies zijn beperkt tot kleinschalige, met de hand geëtiketteerde inspanningen.

Een nieuw artikel gepubliceerd in de werkzaamheden van de 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP) biedt een kader voor het bestuderen van de dynamiek van online haat en tegenspraak. De paper biedt de eerste grootschalige classificatie van miljoenen van dergelijke interacties op Twitter. De auteurs ontwikkelden een leeralgoritme om gegevens uit een unieke situatie op Duitse Twitter te beoordelen, en de bevindingen suggereren dat georganiseerde bewegingen om haatzaaiende uitlatingen op sociale media tegen te gaan, effectiever zijn dan individuen die er alleen voor staan.

De auteurs presenteren hun paper, "Bestrijding van haat op sociale media:grootschalige classificaties van haat en tegenspraak" tijdens de 20 november, 2020, Workshop over online misbruik en schade, die loopt in samenwerking met EMNLP 2020.

"Ik heb de afgelopen twee of drie jaar een grote verschuiving gezien in het maatschappelijk discours in de richting van veel hatelijker en veel meer gepolariseerd, " zegt Joshua Garland, een wiskundige en Applied Complexity Fellow aan het Santa Fe Institute. "Dus, voor mij, een interessante vraag was:wat is een gepast antwoord als je cyberpest wordt of wanneer je online haatzaaiende uitlatingen ontvangt? Reageer je? Probeer je je vrienden te krijgen om je te helpen beschermen? Blokkeer je die persoon gewoon?"

Om dergelijke vragen wetenschappelijk te bestuderen, onderzoekers moeten eerst toegang hebben tot een schat aan real-world gegevens over zowel haatzaaien als tegenspraak, en het vermogen om onderscheid te maken tussen de twee. Die gegevens bestonden, en Garland en medewerker Keyan Ghazi-Zahedi van het Max Planck Instituut in Duitsland vonden het in een vijf jaar durende interactie die zich afspeelde op Duitse Twitter:toen een alt-rechtse groep het platform betrad met haatdragende taal, een georganiseerde beweging kwam in opstand om het tegen te gaan.

"Het mooie van deze twee groepen is dat ze zichzelf labelden, " legt Mirta Galesic uit, de sociale wetenschapper van het team en een professor in menselijke sociale dynamiek bij SFI. Ze zegt dat onderzoekers die tegenspraak bestuderen, meestal honderden studenten in dienst moeten hebben om duizenden berichten met de hand te coderen. Maar Garland en Ghazi-Zahedi waren in staat om de zelfgelabelde berichten in een machine learning-algoritme in te voeren om grote delen van de classificatie te automatiseren. Het team vertrouwde ook op 20-30 menselijke codeurs om te controleren of de machineclassificaties overeenkwamen met intuïtie over wat wordt geregistreerd als haat en tegenspraak.

Het resultaat was een dataset van ongekende omvang waarmee de onderzoekers niet alleen geïsoleerde gevallen van haat en tegenspraak kunnen analyseren, maar vergelijk ook langlopende interacties tussen de twee.

Het team verzamelde één dataset van miljoenen tweets die waren gepost door leden van de twee groepen, deze zelf-geïdentificeerde tweets gebruiken om hun classificatie-algoritme te trainen om haat en tegenspraak te herkennen. Vervolgens, ze pasten hun algoritme toe om de dynamiek van zo'n 200, 000 gesprekken die plaatsvonden tussen 2013 en 2018. De auteurs zijn van plan om binnenkort een vervolgartikel te publiceren waarin de dynamiek wordt geanalyseerd die door hun algoritme wordt onthuld.

"Nu kunnen we een enorme dataset van 2016 tot 2018 oplossen om te zien hoe het aandeel haat en tegenspraak in de loop van de tijd is veranderd. wie krijgt meer likes, wie wordt geretweet, en hoe ze op elkaar reageerden", zegt Galesic.

De hoeveelheid gegevens, een geweldige zegen, maakt het ook "ongelooflijk complex, " merkt Garland op. De onderzoekers zijn bezig met het vergelijken van tactieken voor beide groepen en met bredere vragen, zoals of bepaalde tegenspraakstrategieën effectiever zijn dan andere.

"Wat ik hoop is dat we met een rigoureuze sociale theorie kunnen komen die mensen vertelt hoe ze haat kunnen tegengaan op een productieve manier die niet-polariserend is. "Grand zegt, "en breng het internet terug naar het burgerlijk discours."