In 2015 plaatste een man met een schedelmasker een video waarin hij zijn plannen uiteenzet om Brianna Wu te vermoorden. De schedelvideo was slechts een van de vele van dergelijke verontrustende en bizarre berichten gericht op Wu en andere vrouwen online als onderdeel van een intimidatiecampagne genaamd GamerGate.

Dit was in de begindagen van contentmoderatie in een social media-ecosysteem met veel minder regels, maar toch ging Twitter snel om de video te verwijderen, waardoor deze niet viraal ging, zei Wu. Hoewel GamerGate illustreerde hoe onbekwaam sociale-mediaplatforms waren in het beschermen van hun gebruikers, diende de snelle actie van Twitter als een vroeg voorbeeld van de relatieve bereidheid van het bedrijf om kritiek aan te pakken en misbruik tegen te gaan, zei Wu.

Hoewel sociale-mediaplatforms moeite hebben om te reageren op verkeerde informatie, haatzaaiende uitlatingen, inmenging in verkiezingen en aanzetten tot geweld, heeft Twitter in de loop der jaren een meer genuanceerde en grondige aanpak gevolgd door een uitgebreid beleidskader te ontwikkelen, te herzien en uit te breiden.

Twitter leidde bijvoorbeeld inspanningen om veiligheidsbeleid te creëren en spraakmakende schendingen van zijn regels af te dwingen. Het schorste de rechtse provocateur Milo Yiannopoulos permanent in juli 2016 en samenzweringstheoreticus Alex Jones in september 2018. Facebook verbood Yiannopoulos en Jones pas in mei 2019.

In de zomer van 2020 plakte Twitter een waarschuwingslabel op de tweet van toenmalig president Trump waarin hij dreigde met een hard optreden tegen protesten in Minneapolis als schending van de regels over "geweld verheerlijken", en kort daarna markeerde nog twee verkiezingsgerelateerde tweets voor feitencontrole. De stap onderscheidde Twitter van Facebook, waarvan de CEO, Mark Zuckerberg, aangaf dat het niet geneigd was om op dezelfde manier actie te ondernemen, en maakte de weg vrij voor een hele reeks sociale-mediabedrijven die Trump later dagen voor het einde van zijn ambtstermijn van hun platforms schorsten.

Dit jaar kondigde Facebook een 24-uurs schorsing aan van het account van Rep. Marjorie Taylor Greene, R-Ga., een dag nadat Twitter Greene permanent had verboden voor het herhaaldelijk verspreiden van verkeerde informatie over COVID-19.

Maar het succesvolle bod van Elon Musk om Twitter te kopen, zou het traject van het bedrijf kunnen veranderen. Musk, die heeft gezegd dat hij een filosofie van het absolutisme van de vrijheid van meningsuiting omarmt, heeft duidelijk gemaakt dat hij een platform wil met minder handhaving, en schreef dinsdag in een reeks tweets dat hij alleen gematigdheid prefereert als dat wettelijk vereist is.

"Ik ben tegen censuur die veel verder gaat dan de wet. Als mensen minder vrijheid van meningsuiting willen, zullen ze de overheid vragen om wetten in die zin aan te nemen. Daarom is het overschrijden van de wet in strijd met de wil van het volk", zei Musk op Twitter. .

"Twitter heeft van oudsher gediend als een van de meer vooruitstrevende sociale-mediaplatforms die altijd nieuwe ideeën en concepten hebben getest", zegt Jennifer Edwards, uitvoerend directeur van het Texas Social Media Research Institute aan de Tarleton State University.

Musk's aankoop van het bedrijf en de spil in de richting van het laissez-faire moderatie-ethos waar hij de voorkeur aan geeft, zou andere sociale-mediaplatforms ertoe kunnen aanzetten om ook terug te gaan en hun moderatienormen te versoepelen, zei ze.

De dynamiek van Twitter die het peloton leidt, kan onder Musk ook in de tegenovergestelde richting stromen, waarbij de nieuwe Twitter-eigenaar aanwijzingen krijgt van zijn meer ervaren tegenhanger op Facebook. Musk heeft bijvoorbeeld al gezegd dat hij wil beginnen met het "authenticeren van alle mensen" op Twitter - een beweging die, hoewel vaag, zijn platform meer zou kunnen afstemmen op dat van Zuckerberg, waar van gebruikers wordt verwacht dat ze posten onder welke naam dan ook "die ze in het dagelijks leven gebruiken". .

Musk's aantijgingen dat hij dit voorbeeld zou kunnen volgen, hebben al tot kritiek geleid.

"Elke voorstander van vrijheid van meningsuiting (zoals Musk zichzelf lijkt te zien) die van gebruikers wil eisen dat ze een identiteitsbewijs indienen om toegang te krijgen tot een platform, is zich waarschijnlijk niet bewust van het cruciale belang van pseudonimiteit en anonimiteit", schreven verschillende leiders van de non-profitorganisatie Electronic Frontier Foundation voor digitale rechten in reactie. op het nieuws van de aankoop van Musk. Beleid dat echte namen op Facebook vereist, is gebruikt om precaire gemeenschappen zoals transgenders, dragqueens en sekswerkers te verdrijven, aldus de verklaring.

Veel gebruikers wantrouwen begrijpelijkerwijs sociale media, willen zich niet identificeren en haken af, zegt Sophie Zhang, voormalig datawetenschapper bij Facebook. In Zuid-Korea werden databases met echte naamauthenticatie herhaaldelijk gehackt omdat ze een schat aan persoonlijke informatie vormden, zei ze.

"Het absolutisme van de vrijheid van meningsuiting is een leuk idee", maar de overgrote meerderheid van contentmoderatie is geen controversiële politieke discussie die Musk stelt, en dus werken deze waarden in de praktijk niet noodzakelijkerwijs, zei Zhang.

Zhang zei dat het te vroeg is om te weten hoe de invloed van Musk de inhoudsmoderatie op het platform zal beïnvloeden. De uitdagingen van het platform kunnen hem en andere aanhangers van het absolutisme van de vrije meningsuiting dwingen om rekening te houden met de vraag waarom hij niet in staat is om spraak ongehinderd te laten stromen en tegelijkertijd te voorkomen dat het platform een ​​moeras van crypto-spam, pornografie en nepadvertenties wordt.

"De echte vraag voor mij is hoe Elon die beslissingen neemt als hij eenmaal in de verantwoordelijke positie zit", zei ze.

Christopher Bail, een professor aan de Duke University en directeur van het Polarization Lab van de campus, zei dat de uitgangspunten van sommige voorstellen van Musk gebrekkig zijn. Musk is onvermurwbaar dat conservatieve stemmen worden geminimaliseerd, en hoewel het mogelijk is om te wijzen op spraakmakende gevallen zoals de opschorting van het account van Trump als voorbeelden van vooringenomenheid tegen conservatieven, tonen onderzoeken aan dat het platform de neiging heeft om conservatieve perspectieven te promoten, zei Bail.

Musk heeft gezegd dat accounts bijna nooit mogen worden verbannen, maar heeft ook beloofd om spammers aan te pakken - vermoedelijk door ze te identificeren aan de hand van de inhoud van hun toespraak en actie te ondernemen om de accounts te verbieden.

"Ik denk dat waar het rubber de weg raakt, het moeilijker zal zijn dan hij zich realiseert om te doen wat hij wil," zei Bail.

Onderzoekers en activisten vrezen dat de focus van Musk op onbelemmerde spraak de tools zal aantasten die het vertrouwens- en veiligheidsteam van Twitter in de loop der jaren heeft opgebouwd. Door zichzelf benaderingen te geven naast het deactiveren van accounts en het verwijderen van berichten, heeft Twitter zijn regels aanzienlijk beter afdwingbaar gemaakt, aldus experts. Het bedrijf is transparanter geweest dan zijn collega's, heeft open communicatielijnen met onderzoekers behouden en grote hoeveelheden gegevens over spam en verkeerde informatie op het platform openbaar gemaakt en beschikbaar gemaakt voor analyse door academici en anderen.

Twitter houdt een archief bij van berichten die het van het platform heeft verwijderd, zodat onderzoekers het bereik en de invloed van virale desinformatie kunnen onderzoeken. Het Birdwatch-initiatief van Twitter heeft tot doel een crowdsourced-benadering te creëren voor het markeren van verkeerde informatie.

Wu zei dat tijdens de piek van intimidatie waarmee ze tijdens GamerGate werd geconfronteerd, de toenmalige vice-president van vertrouwen en veiligheid van Twitter contact opnam om zorgen te horen en ondersteuning te bieden. In de jaren daarna scheidde Twitter zich van de rest door echte inspanningen te leveren om met critici zoals zijzelf in contact te komen.

"Ze hebben meer gedaan dan Facebook, meer dan Reddit, meer dan Google", zegt Wu, die zegt dat ze het vertrouwens- en veiligheidsteam van het bedrijf gedurende ongeveer vijf jaar informeel adviseerde in een onbetaalde hoedanigheid. "Twitter heeft nooit de eer gekregen die het verdient voor het agressief aanpakken van intimidatie."