Samenzweringstheoreticus en Amerikaanse extreemrechtse media-persoonlijkheid Alex Jones is onlangs veroordeeld tot het betalen van $ 45 miljoen (£ 37 miljoen) schadevergoeding aan de familie van een kind dat is omgekomen bij de schietpartij op Sandy Hook in 2012.

Jones had beweerd dat het feit dat hij werd verbannen of "deplatformed" van grote sociale-mediasites vanwege zijn extreme opvattingen hem financieel negatief beïnvloedde, en de situatie vergeleek met "gevangenis". Maar tijdens het proces schatte forensisch econoom Bernard Pettingill dat de samenzweringswebsite InfoWars van Jones meer geld verdiende nadat hij in 2018 van Facebook en Twitter was verbannen.

Dus werkt online deplatforming echt? Het is niet mogelijk om invloed op een wetenschappelijk rigoureuze manier te meten, dus het is moeilijk te zeggen wat er gebeurt met de algehele invloed van een persoon of groep wanneer ze gedeplatformeerd worden. Over het algemeen suggereert onderzoek dat deplatforming de activiteit van snode actoren op die sites kan verminderen. Het komt echter met een prijs. Naarmate mensen en groepen zonder platform naar elders migreren, kunnen ze volgers verliezen, maar ook hatelijker en giftiger worden.

Doorgaans omvat deplatforming acties die worden ondernomen door de sociale-mediasites zelf. Maar het kan worden gedaan door derden, zoals de financiële instellingen die betalingsdiensten op deze platforms aanbieden, zoals PayPal.

Het sluiten van een groep is ook een vorm van deplatforming, zelfs als de mensen erin nog vrij zijn om de sites te gebruiken. The_Donald subreddit (een forum op de website Reddit) was bijvoorbeeld gesloten vanwege het hosten van haatdragende en bedreigende inhoud, zoals een bericht dat leden aanmoedigde om een ​​bijeenkomst van blanke supremacisten bij te wonen.

Werkt deplatforming?

Onderzoek toont aan dat deplatforming positieve effecten heeft op het platform waar de persoon of groep uit is gezet. Toen Reddit bepaalde forums verbood die het slachtoffer waren van mensen met overgewicht en Afro-Amerikanen, stopten veel gebruikers die actief waren op deze hatelijke subreddits met posten op Reddit. Degenen die actief bleven, plaatsten minder extreme inhoud.

Maar de gedeplatformeerde groep of persoon kan migreren. Alex Jones blijft werken buiten de reguliere sociale netwerken, voornamelijk via zijn InfoWars-website en podcasts. Een verbod op grote technologie kan worden gezien als een straf voor het ongecensureerd uitdagen van de status-quo, waardoor de banden en het gevoel van verbondenheid tussen volgers worden versterkt.

Gab is in 2016 opgericht als een alternatief sociaal netwerk en verwelkomt gebruikers die zijn verbannen van andere platforms. Sinds de opstand van het Capitool in de Verenigde Staten heeft Gab over deze verboden getweet als een ereteken, en hij zei dat het een golf van gebruikers en sollicitaties heeft gezien.

Het onderzoek van mijn team keek naar de subreddits The_Donald en Incels (een mannelijke online gemeenschap die vijandig staat tegenover vrouwen), die naar zelfstandige websites verhuisden nadat ze van Reddit waren verbannen. We ontdekten dat naarmate gevaarlijke gemeenschappen naar verschillende platforms migreerden, hun voetafdruk kleiner werd, maar gebruikers aanzienlijk extremer werden. Evenzo vertoonden gebruikers die werden verbannen van Twitter of Reddit een verhoogd niveau van activiteit en toxiciteit bij hun verhuizing naar Gab.

Andere onderzoeken naar de geboorte van marginale sociale netwerken zoals Gab, Parler of Gettr hebben relatief vergelijkbare patronen gevonden. Deze platforms verkopen zichzelf als bastions van vrije meningsuiting en verwelkomen gebruikers die zijn verbannen of geschorst van andere sociale netwerken. Uit onderzoek blijkt dat niet alleen extremisme toeneemt als gevolg van lakse moderatie, maar ook dat vroege sitegebruikers een onevenredige invloed hebben op het platform.

De onbedoelde gevolgen van deplatforming zijn niet beperkt tot politieke gemeenschappen, maar strekken zich uit tot gezondheidsdesinformatie en samenzweringstheorieën. Toen Facebook bijvoorbeeld groepen verbood die COVID-19-vaccins bespraken, gingen gebruikers op Twitter en plaatsten ze nog meer antivaccinatie-inhoud.

Alternatieve oplossingen

Wat kan er nog meer worden gedaan om de concentratie van online haat te voorkomen die deplatforming kan aanmoedigen? Sociale netwerken hebben geëxperimenteerd met zachte moderatie-interventies die geen inhoud verwijderen of gebruikers verbieden. Ze beperken de zichtbaarheid van de inhoud (schaduwverbod), beperken het vermogen van andere gebruikers om met de inhoud om te gaan (beantwoorden of delen) of voegen waarschuwingslabels toe.

Deze benaderingen laten bemoedigende resultaten zien. Sommige waarschuwingslabels hebben sitegebruikers ertoe aangezet om valse claims te ontkrachten. Zachte moderatie vermindert soms gebruikersinteracties en extremisme in opmerkingen.

Er is echter potentieel voor populariteitsbias (reageren op of negeren van inhoud op basis van de buzz eromheen) over de onderwerpen waarop platforms zoals Twitter besluiten in te grijpen. Ondertussen lijken waarschuwingslabels minder effectief te werken voor nepberichten als ze naar rechts leunen.

Het is ook nog steeds onduidelijk of zachte moderatie extra mogelijkheden creëert voor intimidatie, bijvoorbeeld het bespotten van gebruikers die waarschuwingslabels op hun berichten krijgen of het ergeren van gebruikers die inhoud niet opnieuw kunnen delen.

Ik kijk ernaar uit

Een cruciaal aspect van deplatforming is timing. Hoe eerder platforms optreden om te voorkomen dat groepen reguliere platforms gebruiken om extremistische bewegingen te laten groeien, hoe beter. Snelle actie zou in theorie een rem kunnen zetten op de inspanningen van de groepen om grote gebruikersgroepen op te bouwen en te radicaliseren.

Maar dit zou ook een gecoördineerde inspanning van reguliere platforms en andere media vereisen om te werken. Radiotalkshows en kabelnieuws spelen een cruciale rol bij het promoten van marginale verhalen in de VS.

We hebben een open dialoog nodig over de deplatforming afweging. Als samenleving moeten we bespreken of er in onze gemeenschappen minder mensen moeten worden blootgesteld aan extremistische groepen, zelfs als degenen die zich wel engageren, steeds meer geïsoleerd raken en radicaliseren.

Op dit moment wordt deplatforming bijna uitsluitend beheerd door grote technologiebedrijven. Techbedrijven kunnen het probleem niet alleen oplossen, maar onderzoekers of politici ook niet. Platforms moeten samenwerken met toezichthouders, burgerrechtenorganisaties en onderzoekers om extreme online content aan te pakken. Het weefsel van de samenleving kan ervan afhangen. + Verder verkennen

Heroverweging nodig om de verspreiding van haatdragend materiaal online te stoppen

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.