Socialmediabedrijven hebben het goed gedaan tijdens de hoorzittingen van het Amerikaanse congres over de opstand van 6 januari. Ze profiteerden van livestreamvideo terwijl relschoppers het Capitool bestormden. Ze profiteerden van het opruiende brouwsel van verkeerde informatie dat duizenden ertoe aanzette om naar Washington D.C. te reizen voor de "Save America"-rally. Ze blijven profiteren van de nasleep ervan. Clickbait-extremisme is goed geweest voor het bedrijfsleven.

Videobeelden die door de relschoppers zelf zijn gemaakt, zijn ook een belangrijke bron van bewijs geweest voor politie en aanklagers. Op de dag van de Capitol Building-aanval werden content-moderators op reguliere sociale-mediaplatforms overspoeld met berichten die in strijd waren met hun beleid tegen het aanzetten tot of verheerlijken van geweld. Sites die meer sympathie hebben voor extreemrechts, zoals Parler, werden overspoeld met dergelijke inhoud.

Bij het getuigen van de hoorzittingen van het congres zei een voormalige Twitter-medewerker dat hij het bedrijf smeekte om krachtiger actie te ondernemen. In wanhoop stuurde ze de avond voor de aanval een bericht naar collega's:"Als mensen morgen op elkaar schieten, zal ik proberen te rusten in de wetenschap dat we het hebben geprobeerd."

Zinspelend op tweets van voormalig president Trump, de Proud Boys en andere extremistische groeperingen, zei ze dat ze besefte dat "we in de gril waren van een gewelddadige menigte die op slot en geladen was".

De behoefte aan verandering

In de weken na het bloedbad van Christchurch in 2019 waren er hoopvolle tekenen dat naties – individueel en collectief – bereid waren om het internet beter te reguleren.

Socialmediabedrijven hadden hard gevochten tegen het accepteren van verantwoordelijkheid voor hun inhoud, daarbij verwijzend naar argumenten die de libertaire filosofieën van internetpioniers weerspiegelden. In naam van de vrijheid, zo betoogden ze, moeten lang bestaande regels en gedragsnormen terzijde worden geschoven. Hun succes bij het beïnvloeden van wetgevers heeft bedrijven in staat gesteld om juridische sancties te vermijden, zelfs wanneer hun platforms worden gebruikt om gewelddadige aanvallen te motiveren, plannen, uitvoeren en livestreamen.

Na Christchurch dwong de toenemende publieke verontwaardiging de reguliere bedrijven tot actie. Ze erkenden dat hun platforms een rol hadden gespeeld bij gewelddadige aanvallen, voerden een strenger beleid rond acceptabele inhoud, huurden meer inhoudsmoderators in en breidden hun vermogen uit om extreme inhoud te onderscheppen voordat deze werd gepubliceerd.

Het leek in 2019 ondenkbaar dat er geen echte actie zou worden ondernomen om sociale-mediaplatforms te reguleren en te modereren om de verspreiding van gewelddadig, online extremisme in al zijn vormen te voorkomen. De livestream was een kernelement van de Christchurch-aanval, zorgvuldig ontworpen om op een videogame te lijken en bedoeld als inspiratie voor toekomstige aanvallen.

Bijna twee jaar later stonden meerdere sociale-mediaplatforms centraal bij het aanzetten tot en organiseren van de gewelddadige aanval op het Capitool van de Verenigde Staten, die meerdere doden en gewonden veroorzaakte en velen deed vrezen dat er een burgeroorlog zou uitbreken.

Sociale media waren inderdaad betrokken bij elk aspect van de aanval op het Capitool, net zoals bij het bloedbad in Christchurch. Beide werden gefermenteerd door wilde en ongegronde samenzweringstheorieën die vrij circuleerden over sociale-mediaplatforms. Beide werden uitgevoerd door mensen die zich sterk verbonden voelden met een online gemeenschap van ware gelovigen.

Het proces van radicalisering

De getuigenis van Stephen Ayres tijdens de hoorzittingen van het congres van 6 januari geeft inzicht in het proces van radicalisering.

Ayres beschreef zichzelf als een "gewone huisvader" die "hard van de sociale media" was en pleitte schuldig aan een beschuldiging van wanordelijk gedrag voor zijn rol in de Capitool-invasie. Hij verwees naar zijn accounts op Twitter, Facebook en Instagram als de bron van zijn overtuiging dat de Amerikaanse presidentsverkiezingen van 2020 waren gestolen. Zijn belangrijkste bronnen waren berichten van de voormalige president zelf.

Ayres getuigde dat een tweet van president Trump hem ertoe had gebracht de rally "Save America" ​​bij te wonen. Hij was een voorbeeld van de duizenden Amerikanen die geen lid waren van een extremistische groepering, maar die via de reguliere sociale media waren gemotiveerd om naar Washington D.C. te reizen.

De rol van de voormalige Amerikaanse president Trump in de opkomst van rechts-extremisme, in de VS en daarbuiten, is een terugkerend thema in Rethinking Social Media and Extremism, dat ik samen met Paul Pickering heb bewerkt. Ten tijde van het bloedbad in Christchurch was er voldoende bewijs dat in de VS gevestigde internetbedrijven wereldwijde platforms voor extremistische doelen leverden.

Maar telkens wanneer hun inhoudsmatiging zich uitbreidde tot de stemmen van extreemrechts, kregen deze bedrijven te maken met censuur van conservatieven, waaronder van het Witte Huis van Trump. De boodschap was duidelijk:het toestaan ​​van vrije meningsuiting voor het zogenaamde "alt-right" was de prijs die sociale-mediabedrijven zouden moeten betalen voor hun oligopolie. Hoewel het groeiende gevaar van binnenlands terrorisme duidelijk was, was de dreiging van antitrustzaken een krachtige ontmoediging voor bedrijfsoptreden tegen rechtsextremisten.

Social-mediabedrijven hebben te maken gehad met aanzienlijke druk van landen buiten de VS. Zo kwamen binnen enkele maanden na de aanslag in Christchurch wereldleiders samen in Parijs om de Christchurch-oproep te ondertekenen om gewelddadig extremisme online te bestrijden. Het document was gematigd van toon, maar de VS weigerden te ondertekenen. In plaats daarvan verdubbelde het Witte Huis door te beweren dat de grootste dreiging lag in de onderdrukking van conservatieve stemmen.

In 2021 heeft de regering-Biden zich te laat aangemeld voor de Christchurch Call, maar het is niet gelukt om in eigen land maatregelen te nemen. Ondanks wat harde gesprekken tijdens de verkiezingscampagne, is president Biden er niet in geslaagd wetgeving aan te nemen die technologiebedrijven beter zou reguleren.

Nu de tussentijdse verkiezingen in aantocht zijn – verkiezingen die vaak tegen de partij van de president ingaan – is er weinig reden voor optimisme. De beslissingen van Amerikaanse wetgevers zullen wereldwijd blijven weerklinken, terwijl het eigendom van westerse sociale media stevig gecentreerd blijft in de VS

Het falen van zelfregulering

De geest van het libertarisme leeft voort in bedrijven die binnen tien jaar zijn geëxplodeerd van start-ups van eigen bodem tot ondernemingen van biljoenen dollars. Hun toewijding aan zelfregulering was geschikt voor wetgevers, die moeite hadden om deze nieuwe en voortdurend van vorm veranderende technologie te begrijpen. Het aantoonbare falen van zelfregulering is dodelijk gebleken voor de doelwitten van terrorisme en vormt nu een gevaar voor de democratie zelf.

In haar hoofdstuk in Rethinking Social Media and Extremism vraagt ​​Sally Wheeler ons om de basis te heroverwegen van de sociale licentie die sociale-mediabedrijven moeten hebben om binnen democratieën te opereren. Ze stelt dat we, in plaats van te vragen of hun activiteiten legaal zijn, ons zouden kunnen afvragen welke hervormingen nodig zijn om ervoor te zorgen dat sociale media geen ernstige schade toebrengen aan mensen of samenlevingen.

Nu centraal in de levering van veel openbare diensten, kunnen sociale-mediaplatforms als openbare nutsbedrijven worden beschouwd en alleen al om deze reden onderworpen zijn aan andere en hogere regels en verwachtingen. Dit punt werd ruimschoots, zij het onbedoeld, gedemonstreerd door Facebook zelf toen het veel sites blokkeerde, waaronder hulpdiensten, tijdens een meningsverschil met de Australische regering in 2021. Tijdens het proces scheen Facebook de schijnwerpers op de groeiende afhankelijkheid van het land van een slecht gereguleerde, particuliere platform.

Te midden van de nationale verontwaardiging na het bloedbad in Christchurch, heeft de Australische regering haastig wetgeving ingevoerd die bedoeld is om de verantwoordelijkheden van internetbedrijven te vergroten. Naar verluidt opgesteld in slechts 48 uur voordat het door beide huizen van het parlement werd gehaast, zou het wetsvoorstel altijd gebrekkig zijn.

Effectieve hervormingen vereisen dat we internet eerst erkennen als een ruimte waarin acties gevolgen hebben voor de echte wereld. De meest zichtbare slachtoffers zijn degenen die rechtstreeks het doelwit zijn van dreigementen met extreem geweld, voornamelijk vrouwen, immigranten en minderheden. Zelfs als de dreigementen niet worden uitgevoerd, worden mensen geïntimideerd tot zwijgen, zelfs tot zelfbeschadiging.

Verraderlijker, maar misschien net zo schadelijk op de lange termijn, is de algehele achteruitgang in beleefdheid die het publieke discours naar extreme posities drijft. Op sociale media is wat bekend staat als het Overton-venster van het reguliere politieke debat niet zozeer naar buiten geduwd als wel ingetrapt.

Er is brede overeenstemming dat de bestaande wettelijke en regelgevende kaders simpelweg ontoereikend zijn voor het digitale tijdperk. Maar zelfs nu de wereldwijde pandemie onze afhankelijkheid van alles wat digitaal is, heeft versneld, is er minder overeenstemming over de aard van het probleem, laat staan ​​over de vereiste remedies. Hoewel actie duidelijk nodig is, bestaat altijd het gevaar van te ver gaan.

Het functioneren van een democratische samenleving hangt evenzeer af van ons vermogen om over ideeën te debatteren en afwijkende meningen te uiten als van het voorkomen van gewelddadig extremisme. Het is onze uitdaging om de vrijheid van meningsuiting af te wegen tegen andere concurrerende rechten op internet, net zoals we dat elders doen. De huidige benadering van het simpelweg opdrijven van de straffen waarmee sociale-mediabedrijven worden geconfronteerd, zal eerder de balans ten opzichte van de vrijheid van meningsuiting doen doorslaan. In een communicatielandschap dat steeds meer geconcentreerd wordt in de handen van slechts enkele grote bedrijven, hebben we meer stemmen en meer diversiteit nodig, niet minder. + Verder verkennen

Komt Donald Trump terug naar Facebook? Facebook kan verbod in januari opheffen, zegt exec

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.