Gebruikers die van sociale platforms zijn verbannen, gaan ergens anders heen met verhoogde toxiciteit, volgens een nieuwe studie met onderzoekers van Binghamton University, Staatsuniversiteit van New York.

Als mensen zich als eikels gedragen op sociale media, een permanente reactie is om ze te verbieden opnieuw te posten. Haal de digitale megafoon weg, de theorie gaat, en de kwetsende of oneerlijke berichten van die herrieschoppers zullen daar geen probleem meer plaatsen.

Wat gebeurt er daarna, Hoewel? Waar gaan degenen die zijn 'deplatformed' heen, en hoe beïnvloedt dit hun gedrag in de toekomst?

Een internationaal team van onderzoekers, waaronder assistent-professor Jeremy Blackburn en Ph.D. kandidaat Esraa Aldreabi van het Thomas J. Watson College of Engineering and Applied Science's Department of Computer Science - onderzoekt die vragen in een nieuwe studie genaamd "Understanding the Effect of Deplatforming on Social Networks."

Het onderzoek uitgevoerd door iDRAMA Lab-medewerkers aan de Binghamton University, De Universiteit van Boston, University College London en het Max Planck Institute for Informatics in Duitsland werden in juni gepresenteerd op de ACM Web Science-conferentie 2021 .

Onderzoekers ontwikkelden een methode om accounts van dezelfde persoon op verschillende platforms te identificeren en ontdekten dat verbanning op Reddit of Twitter ertoe leidde dat die gebruikers zich bij alternatieve platforms zoals Gab of Parler voegden, waar de inhoudsmoderatie lakser is.

Een van de bevindingen is ook dat, hoewel gebruikers die naar die kleinere platforms verhuizen een potentieel kleiner publiek hebben, ze vertonen een verhoogd niveau van activiteit en toxiciteit dan voorheen.

"Je kunt deze mensen niet zomaar verbieden en zeggen:'Hallo, het werkte.' Ze verdwijnen niet, ' zei Blackburn. 'Ze gaan naar andere plaatsen. Het heeft wel een positief effect op het originele platform, maar er is ook een zekere mate van versterking of verslechtering van dit soort gedrag elders."

De deplatforming-studie verzamelde 29 miljoen berichten van Gab, die in 2016 werd gelanceerd en momenteel ongeveer 4 miljoen gebruikers heeft. Gab staat bekend om zijn extreemrechtse basis van neonazi's, blanke nationalisten, antisemieten en QAnon-complottheoretici.

Met behulp van een combinatie van machine learning en menselijke etikettering, onderzoekers verwezen naar profielnamen en inhoud met gebruikers die actief waren op Twitter en Reddit, maar waren geschorst. Velen die gedeplatformeerd zijn, hergebruiken dezelfde profielnaam of gebruikersinformatie op een ander platform voor continuïteit en herkenbaarheid bij hun volgers.

"Alleen omdat twee mensen dezelfde naam of gebruikersnaam hebben, dat is geen garantie, " Blackburn zei. "Er was een behoorlijk groot proces om door te gaan met het creëren van een 'grondwaarheid'-dataset, waar we een menselijk woord hadden, 'Dit moeten dezelfde mensen zijn om deze reden en om die reden.' Dat stelt ons in staat om dingen op te schalen door het in een machine learning classifier [programma] te gooien dat de kenmerken leert waarop we moeten letten."

Het proces was niet anders dan hoe wetenschappers de identiteit van auteurs bepalen voor niet-toegeschreven of pseudonieme werken, stijl controleren, syntaxis en onderwerp, hij voegde toe.

In de dataset die voor dit onderzoek is geanalyseerd, ongeveer 59% van de Twitter-gebruikers (1, 152 van de 1, 961) Gab-accounts hebben gemaakt na hun laatste actieve tijd op Twitter, vermoedelijk nadat hun account was opgeschort. Voor Reddit, ongeveer 76% (3, 958 van de 5, 216) van de geschorste gebruikers hebben een Gab-account gemaakt na hun laatste bericht op Reddit.

Inhoud van dezelfde gebruikers op Twitter en Reddit vergelijken met Gab, gebruikers hebben de neiging om giftiger te worden wanneer ze aan een platform worden opgehangen en gedwongen worden om naar een ander platform te gaan. Ze worden ook actiever, het verhogen van de frequentie van berichten.

Tegelijkertijd, het publiek voor de inhoud van Gab-gebruikers wordt beperkt door de kleinere omvang van het platform in vergelijking met de miljoenen gebruikers op Twitter en Reddit. Dit kan als een goede zaak worden gezien, maar Blackburn waarschuwde dat een groot deel van de planning voor de aanval van 6 januari op het Capitool op Parler plaatsvond, een platform vergelijkbaar met Gab met een kleinere gebruikersbasis die scheef staat naar rechts en extreem rechts.

"Reikwijdte verkleinen is waarschijnlijk een goede zaak, maar bereik kan gemakkelijk verkeerd worden geïnterpreteerd. Gewoon omdat iemand 100 heeft, 000 volgers betekent niet dat ze allemaal volgers zijn in de echte wereld, " hij zei.

"De hardcoregroep, misschien de groep waar we ons het meest zorgen over maken, zijn degenen die waarschijnlijk bij iemand blijven als ze ergens anders online verhuizen. Als door dat bereik te verkleinen, je verhoogt de intensiteit waaraan de mensen die in de buurt blijven worden blootgesteld, het is een soort vraag van het type kwaliteit versus kwantiteit. Is het erger dat meer mensen dit spul zien? Of is het erger dat er meer extreme dingen worden geproduceerd voor minder mensen?"

Een aparte studie, "Een grote open dataset van het Parler Social Network, " omvatte ook Blackburn onder onderzoekers van de New York University, de Universiteit van Illinois, Universiteits Hogeschool Londen, Boston University en het Max Planck Instituut.

Gepresenteerd op de AAAI-conferentie over web en sociale media vorige maand, het analyseerde 183 miljoen Parler-berichten van 4 miljoen gebruikers tussen augustus 2018 en januari 2021, evenals metadata van 13,25 miljoen gebruikersprofielen. De gegevens bevestigen dat gebruikers van Parler - die kortstondig werd gesloten en uit de app-winkels van Apple en Google werd gehaald als reactie op de rellen in het Capitool - president Donald Trump en zijn 'Make America Great Again'-agenda overweldigend steunden.

"Ongeacht wat Parler zou hebben gezegd, openbaar of niet, het was heel duidelijk wit, rechtervleugel, Christelijke Trump-aanhangers, ' zei Blackburn. 'Nogmaals, niet verrassend, het kreeg de grootste boost bij de verkiezingen van 2020 - tot een miljoen gebruikers die meededen. Toen rond de aanval op het Capitool, er was nog een grote bult in gebruikers. Wat we kunnen zien is dat het heel duidelijk werd gebruikt als een organisatie-instrument voor de opstand."

Dus als het verbieden van gebruikers niet het juiste antwoord is, wat is? Reddit-beheerders, bijvoorbeeld, een "schaduw-banning"-mogelijkheid hebben waardoor lastige gebruikers kunnen denken dat ze nog steeds berichten op de site plaatsen, behalve dat niemand anders ze kan zien. Tijdens de verkiezingen van 2020 en de COVID-19-pandemie, Twitter heeft labels voor contentmoderatie toegevoegd aan tweets die opzettelijk desinformatie verspreiden.

Blackburn is onzeker over alle moderatietools die sociale-mediaplatforms beschikbaar hebben, maar hij vindt dat er meer "socio-technische oplossingen voor sociaal-technische problemen" moeten komen in plaats van alleen maar een verbod.

"De samenleving zegt nu vrij stellig dat we dit soort dingen niet kunnen negeren - we kunnen niet alleen de gemakkelijke outs meer gebruiken, " zei hij. "We moeten met wat creatievere ideeën komen om niet van mensen af ​​te komen, maar hopelijk duw je ze in een positieve richting of zorg je er in ieder geval voor dat iedereen weet wie die persoon is. Ergens tussen gewoon onbelemmerde toegang en iedereen verbieden is waarschijnlijk de juiste oplossing."