Toen een Amerikaanse senator Facebook-CEO Mark Zuckerberg vroeg:"Kun je haatzaaien definiëren?" het was misschien wel de belangrijkste vraag waarmee sociale netwerken worden geconfronteerd:hoe kunnen ze extremisme binnen hun gemeenschappen identificeren.

Haatmisdrijven in de 21e eeuw volgen een bekend patroon waarin een online tirade escaleert in gewelddadige acties. Voordat hij het vuur opende in de Tree of Life synagoge in Pittsburgh, de beschuldigde schutter had gelucht via het extreemrechtse sociale netwerk Gab over Hondurese migranten die naar de Amerikaanse grens reizen, en de vermeende Joodse samenzwering erachter. Toen verklaarde hij, "Ik kan niet toekijken hoe mijn mensen worden afgeslacht. Verpest je optiek, Ik ga naar binnen." Het patroon van extremisten die hun intolerantie online uiten, is een verontrustend kenmerk van enkele recente haatmisdrijven. Maar de meeste online haat is niet zo flagrant, of zo gemakkelijk te herkennen.

Zoals ik in mijn onderzoek uit 2017 over extremisme in sociale netwerken en politieke blogs ontdekte, in plaats van openlijke onverdraagzaamheid, de meeste online haat lijkt veel op angst. Het wordt niet uitgedrukt in racistische opmerkingen of oproepen tot confrontatie, maar eerder in ongegronde beschuldigingen van Spaanse indringers die het land binnenstromen, zwart-op-wit misdaad of de sharia die Amerikaanse steden binnendringt. Hysterische verhalen zoals deze zijn het favoriete middel van hedendaagse extremisten geworden – en kunnen effectiever zijn in het uitlokken van echt geweld dan stereotiepe haatzaaiende uitlatingen.

Het gemak van het verspreiden van angst

Op Twitter, een populaire meme die onlangs rondreist, toont het "Islamic Terrorist Network" verspreid over een kaart van de Verenigde Staten, terwijl een Facebook-account genaamd "America Under Attack" een artikel deelt met zijn 17, 000 volgers over de "Angry Young Men and Gangbangers" die naar de grens marcheren. En op Gab, talloze profielen spreken over Joodse plannen om de Amerikaanse cultuur te saboteren, soevereiniteit en de president.

Hoewel niet openlijk vijandig, deze noten spelen goed voor een publiek dat op sociale media een plek heeft gevonden waar ze hun onverdraagzaamheid openlijk kunnen uiten, zolang ze maar binnen de lijntjes kleuren. Ze kunnen de blootstelling vermijden die traditionele haatzaaiende uitlatingen aantrekt. Terwijl de blanke nationalistische bijeenkomst in Charlottesville spraakmakend en onthullend was, sociale netwerken kunnen anoniem en discreet zijn, en dus bevrijdend voor de zwart-wit racist. Dat vormt een grote uitdaging voor platforms als Facebook, Twitter en YouTube.

Haat bestrijden

Uiteraard is dit niet alleen een uitdaging voor social media bedrijven. Het grote publiek staat voor de complexe vraag hoe te reageren op opruiende en bevooroordeelde verhalen die raciale angsten en daaropvolgende vijandigheid aanwakkeren. Echter, sociale netwerken hebben het unieke vermogen om het volume bij intolerantie te verlagen als ze vaststellen dat een gebruiker in feite zijn servicevoorwaarden heeft geschonden. Bijvoorbeeld, in april 2018, Facebook heeft twee pagina's verwijderd die verband houden met de blanke nationalist Richard Spencer. Een paar maanden later, Twitter heeft verschillende accounts van de extreemrechtse groep The Proud Boys geschorst wegens het schenden van haar beleid "het verbieden van gewelddadige extremistische groeperingen".

Nog altijd, sommige critici beweren dat de netwerken niet snel genoeg gaan. Er is een toenemende druk op deze websites om het extremisme dat in hun ruimtes tot bloei is gekomen, te controleren, of anders zelf onder politiecontrole komen. Uit een recent onderzoek van Huffpost/YouGov bleek dat tweederde van de Amerikanen sociale netwerken wilde om te voorkomen dat gebruikers "haatdragende taal of racistische inhoud" plaatsen.

In antwoord, Facebook heeft zijn inspanningen op het gebied van anti-extremisme opgevoerd, meldde in mei dat het "2,5 miljoen stukjes haatzaaiende uitlatingen had verwijderd, " waarvan meer dan een derde werd geïdentificeerd met behulp van kunstmatige intelligentie, de rest door menselijke monitoren of gemarkeerd door gebruikers. Maar zelfs toen Zuckerberg in november 2018 meer actie beloofde, het bedrijf erkende dat het extreem moeilijk is om zijn technologie aan te leren om haatspraak te identificeren vanwege alle contexten en nuances die deze betekenissen drastisch kunnen veranderen.

Bovendien, de publieke consensus over wat haatspraak eigenlijk is, is op zijn best dubbelzinnig. Het conservatieve Cato Institute vond brede onenigheid onder Amerikanen over het soort toespraak dat als haat zou moeten worden aangemerkt, of beledigende spraak, of terechte kritiek. En dus, deze discrepanties roepen de voor de hand liggende vraag op:hoe kan een algoritme haatspraak identificeren als wij mensen het zelf nauwelijks kunnen definiëren?

Angst steekt de lont aan

De ambiguïteit van wat haatspraak is, biedt moderne extremisten voldoende dekmantel om culturele angsten in populaire netwerken te brengen. Dat levert misschien wel het duidelijkste gevaar op:het aanwakkeren van de raciale paranoia van mensen kan ook buitengewoon krachtig zijn in het aanwakkeren van vijandigheid.

Wijlen communicatiewetenschapper George Gerbner ontdekte dat, in tegenstelling tot wat vaak wordt gedacht, zware blootstelling aan mediageweld heeft mensen niet gewelddadiger gemaakt. Liever, het maakte hen banger dat anderen hen geweld aandeden, wat vaak leidt tot bijtend wantrouwen en culturele wrok. Dat is precies waar de hedendaagse racisten op inspelen, en welke sociale netwerken moeten leren herkennen.

De berichten die spreken over Joodse complotten om Amerika te vernietigen, of zwart-op-wit misdaad, roepen niet direct op tot geweld, maar ze versterken vooroordelen die volgelingen tot actie kunnen aanzetten. Dat is precies wat er gebeurde voorafgaand aan de dodelijke aanslagen op een historische zwarte kerk in Charleston in 2015, en de Pittsburgh synagoge vorige maand.

Voor sociale netwerken, de uitdaging is tweeledig. Ze moeten eerst beslissen of ze geweldloze racisten als Richard Spencer blijven ontvangen, die heeft opgeroepen tot "vreedzame etnische zuivering, " en blijft actief op Twitter. Of wat dat betreft, Nation of Islam leider Louis Farrakhan, die onlangs joden met termieten vergeleek, en blijft posten op zijn Facebook-pagina.

Wanneer Twitter en Facebook deze profielen actief laten blijven, de bedrijven verlenen de geloofwaardigheid van hun online gemeenschappen aan deze provocateurs van racisme of antisemitisme. Maar ze geven ook aan dat hun definities van haat misschien te beperkt zijn.

De gevaarlijkste haatzaaiende uitlatingen worden blijkbaar niet langer uitgezonden met etnische laster of waanvoorstellingen over blanke suprematie. Liever, het is allemaal op sociale media, in het volle zicht, met hashtags zoals #WhiteGenocide, #BlackCrimes, #MigrantInvasion en #AmericaUnderAttack. Ze creëren een illusie van onmiddellijke dreiging waar radicalen van gedijen, en waarop de gewelddadige onder hen hebben gereageerd.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.