Op de avond van 17 februari 2018, Professor Mary Beard plaatste op Twitter een foto van zichzelf huilend. De eminente classicus van de Universiteit van Cambridge, wie heeft er bijna 200, 000 Twitter-volgers, was radeloos na het ontvangen van een storm van misbruik online. Dit was de reactie op een opmerking die ze had gemaakt over Haïti. Ze twitterde ook:"Ik spreek vanuit mijn hart (en natuurlijk kan ik het mis hebben). Maar de onzin die ik krijg als reactie is gewoon niet op, echt niet."

In de dagen die volgden, Beard kreeg steun van verschillende spraakmakende mensen. Greg Jenner, een mede-historicus van beroemdheden, twitterde over zijn eigen ervaring met een Twitterstorm:"Ik zal me altijd herinneren hoe traumatisch het was om plotseling door vreemden te worden gehaat. toen ik herstelde) over hoe psychologisch destabiliserend het voor mij was."

Die tweeten die ondersteuning voor Beard twitterden - ongeacht of ze het eens waren met haar eerste tweet die de beledigende reacties had veroorzaakt - waren toen zelf het doelwit. En toen een van Beards critici, collega Cambridge academicus Priyamvada Gopal, een vrouw van Aziatische afkomst, zette haar reactie op Beard's originele tweet uiteen in een online artikel, ze kreeg haar eigen stortvloed van misbruik.

Er is overweldigend bewijs dat vrouwen en leden van etnische minderheidsgroepen onevenredig het doelwit zijn van Twitter-misbruik. Waar deze identiteitsmarkeringen elkaar kruisen, het pesten kan bijzonder intens worden, zoals ervaren door zwarte vrouwelijke MP Diane Abbott, die alleen al bijna de helft van alle beledigende tweets ontving die tijdens de aanloop naar de Britse algemene verkiezingen van 2017 naar vrouwelijke parlementsleden werden gestuurd. Zwarte en Aziatische vrouwelijke parlementsleden ontvingen gemiddeld 35 procent meer beledigende tweets dan hun blanke vrouwelijke collega's, zelfs wanneer Abbott werd uitgesloten van het totaal.

Het constante spervuur ​​van misbruik, waaronder doodsbedreigingen en bedreigingen met seksueel geweld, brengt mensen tot zwijgen, ze van online platforms te duwen en de diversiteit van online stemmen en meningen verder te verminderen. En het vertoont geen tekenen van afname. Uit een onderzoek van vorig jaar bleek dat 40 procent van de Amerikaanse volwassenen persoonlijk te maken had gehad met online misbruik, bijna de helft van hen krijgt te maken met ernstige vormen van intimidatie, inclusief fysieke bedreigingen en stalking. 70 procent van de vrouwen beschreef online intimidatie als een "groot probleem".

De businessmodellen van social media platforms, zoals YouTube en Facebook, inhoud te promoten die een grotere kans heeft om een ​​reactie van andere gebruikers te krijgen, omdat meer betrokkenheid betere mogelijkheden voor advertenties betekent. Maar dit heeft tot gevolg dat er verdeeldheid zaait en sterk emotionele of extreme inhoud wordt bevorderd, die op hun beurt online "bubbels" kunnen voeden van groepen die elkaars meningen weerspiegelen en versterken, helpen de verspreiding van meer extreme inhoud voort te stuwen en een niche te bieden voor "nepnieuws". In de afgelopen maanden, onderzoekers hebben veel manieren onthuld waarop verschillende gevestigde belangen, inclusief Russische agenten, hebben geprobeerd de publieke opinie te manipuleren door te infiltreren in zeepbellen op sociale media.

Ons menselijk vermogen om ideeën over netwerken van mensen te communiceren, stelde ons in staat om de moderne wereld op te bouwen. Het internet biedt een ongeëvenaarde belofte van samenwerking en communicatie tussen de hele mensheid. Maar in plaats van een enorme uitbreiding van onze sociale kringen online te omarmen, we lijken terug te vallen op tribalisme en conflicten, en het geloof in het potentieel van internet om de mensheid samen te brengen in een glorieus samenwerkend netwerk begint nu naïef te lijken. Hoewel we onze interacties in het echte leven met vreemden over het algemeen beleefd en respectvol voeren, online kunnen we verschrikkelijk zijn. Hoe kunnen we de samenwerkingstechnieken opnieuw leren die ons in staat hebben gesteld een gemeenschappelijke basis te vinden en als soort te gedijen?

"Overdenk het niet, druk gewoon op de knop!"

ik klik op een bedrag, mezelf in een oogwenk verarmen, en ga snel verder met de volgende vraag, beseffen dat we allemaal tegen de klok spelen. Mijn teamgenoten zijn ver weg en onbekend voor mij. Ik heb geen idee of we er allemaal samen in zitten of dat ik voor de gek word gehouden, maar ik druk door, wetende dat de anderen van mij afhankelijk zijn.

Ik speel in een zogenaamd spel van publieke goederen in het Human Cooperation Lab van Yale University. De onderzoekers hier gebruiken het als een hulpmiddel om te helpen begrijpen hoe en waarom we samenwerken, en of we ons prosociaal gedrag kunnen verbeteren.

Door de jaren heen, wetenschappers hebben verschillende theorieën voorgesteld over waarom mensen zo goed samenwerken dat we sterke samenlevingen vormen. De evolutionaire wortels van onze algemene aardigheid, de meeste onderzoekers geloven nu, kan worden gevonden in het individuele overlevingsvoordeel dat mensen ervaren wanneer we als groep samenwerken. Ik ben naar New Haven gekomen, Connecticut, in een besneeuwde februari, om een ​​cluster van laboratoria te bezoeken waar onderzoekers experimenten gebruiken om onze buitengewone impuls om aardig te zijn voor anderen, zelfs ten koste van onszelf, verder te onderzoeken.

Het spel dat ik speel, op Amazon's Mechanical Turk online platform, is een van de lopende experimenten van het lab. Ik zit in een team van vier mensen op verschillende locaties, en ieder van ons krijgt hetzelfde bedrag om mee te spelen. We worden gevraagd om te kiezen hoeveel geld we zullen bijdragen aan een groepspot, met dien verstande dat deze pot dan wordt verdubbeld en gelijkelijk onder ons wordt verdeeld.

Dit soort sociale dilemma's, zoals alle samenwerking, vertrouwt op een zeker vertrouwen dat de anderen in je groep aardig zullen zijn. Als iedereen in de groep al zijn geld bijdraagt, al het geld wordt verdubbeld, vier manieren herverdeeld, en iedereen verdubbelt zijn geld. Win-win!

"Maar als je erover nadenkt vanuit het perspectief van een individu, " zegt laboratoriumdirecteur David Rand, "Voor elke dollar die u bijdraagt, het wordt verdubbeld tot twee dollar en vervolgens in vier delen gesplitst - wat betekent dat elke persoon slechts 50 cent terug krijgt voor de dollar die hij heeft bijgedragen."

Ook al is iedereen collectief beter af door bij te dragen aan een groepsproject dat niemand alleen zou kunnen uitvoeren - in het echte leven, dit kan betalen voor een ziekenhuisgebouw, of het graven van een gemeenschappelijke irrigatiegreppel - er zijn kosten op individueel niveau. Financieel, je verdient meer geld door egoïstischer te zijn.

Rands team heeft dit spel met duizenden spelers gespeeld. De helft van hen wordt gevraagd, zoals ik was, om hun bijdrage snel te beslissen – binnen 10 seconden – terwijl de andere helft wordt gevraagd om de tijd te nemen en hun beslissing zorgvuldig te overwegen. Het blijkt dat wanneer mensen met hun buik gaan, ze zijn veel genereuzer dan wanneer ze tijd besteden aan overleg.

"Er is veel bewijs dat samenwerking een centraal kenmerk is van de menselijke evolutie, " zegt Rand. Individuen profiteren, en hebben meer kans om te overleven, door samen te werken met de groep. En om in de groep te mogen blijven en ervan te profiteren, is afhankelijk van onze reputatie van coöperatief gedrag.

"In de kleinschalige samenlevingen waarin onze voorouders leefden, al onze interacties waren met mensen die je in de nabije toekomst weer zou zien en waarmee je interactie zou hebben, " Zegt Rand. Dat hield elke verleiding in bedwang om agressief te handelen of misbruik te maken en mee te liften op de bijdragen van anderen. "Het is logisch, op een eigenbelangrijke manier, coöperatief zijn."

Samenwerking leidt tot meer samenwerking in een wederzijds voordelige cyclus. In plaats van elke keer uit te zoeken of het in ons langetermijnbelang is om aardig te zijn, het is efficiënter en minder inspanning om de basisregel te hebben:wees aardig voor andere mensen. Daarom is onze ondoordachte reactie in het experiment genereus.

Gedurende ons hele leven, we leren van de samenleving om ons heen hoe coöperatief te zijn. Maar ons aangeleerde gedrag kan ook snel veranderen.

Degenen in het experiment van Rand die de quickfire-ronde spelen, zijn meestal genereus en ontvangen royale dividenden, hun genereuze vooruitzichten versterken. Terwijl degenen die nadenken over hun beslissingen egoïstischer zijn, resulterend in een magere groepspot, het idee versterken dat het niet loont om op de groep te vertrouwen. Dus, in een volgend experiment, Rand gaf wat geld aan mensen die een ronde van het spel hadden gespeeld. Vervolgens werd hen gevraagd hoeveel ze aan een anonieme vreemdeling wilden geven. Deze keer, er was geen stimulans om te geven; ze zouden volledig liefdadig handelen.

Er bleken grote verschillen te zijn. De mensen die in de eerste fase gewend waren om samen te werken, gaven in de tweede fase twee keer zoveel geld als de mensen die gewend waren geraakt aan egoïsme. "Dus we beïnvloeden het interne leven en gedrag van mensen, ' zegt Rand. 'De manier waarop ze zich gedragen, zelfs als niemand kijkt en als er geen instelling is om ze te straffen of te belonen.'

Rands team heeft getest hoe mensen in verschillende landen het spel spelen, om te zien hoe de kracht van sociale instellingen – zoals de overheid, familie, onderwijs en rechtsstelsels – beïnvloedt het gedrag. In Kenia, waar corruptie in de publieke sector hoog is, spelers gaven aanvankelijk minder genereus aan de vreemdeling dan spelers in de VS, die minder corruptie kent. Dit suggereert dat mensen die kunnen vertrouwen op relatief eerlijke sociale instellingen zich meer publiekelijk gedragen; degenen wier instellingen minder betrouwbaar zijn, zijn meer protectionistisch. Echter, na het spelen van slechts één ronde van de samenwerkingsbevorderende versie van het spel van publieke goederen, de vrijgevigheid van de Kenianen evenaarde die van de Amerikanen. En het sneed aan twee kanten:Amerikanen die waren opgeleid om egoïstisch te zijn, gaven veel minder.

Dus is er iets aan de online sociale-mediacultuur waardoor sommige mensen zich gemeen gedragen? In tegenstelling tot oude jager-verzamelaarsamenlevingen, die afhankelijk zijn van samenwerking en delen om te overleven en vaak regels hebben voor wanneer ze voedsel moeten aanbieden aan wie via hun sociale netwerk, sociale media hebben zwakke instellingen. Ze bieden fysieke afstand, relatieve anonimiteit en weinig reputatie- of strafrisico voor slecht gedrag:als je gemeen bent, niemand die je kent, gaat zien.

Ik sjokte een paar blokken door de sneeuw om Molly Crockett's Psychology Lab te vinden, waar onderzoekers morele besluitvorming in de samenleving onderzoeken. Een gebied waar ze zich op richten, is hoe sociale emoties online worden getransformeerd, vooral morele verontwaardiging. Onderzoek naar hersenafbeeldingen toont aan dat wanneer mensen handelen naar hun morele verontwaardiging, het beloningscentrum van hun hersenen wordt geactiveerd - ze voelen zich er goed bij. Dit versterkt hun gedrag, dus de kans is groter dat ze weer op dezelfde manier ingrijpen. Dus, als ze iemand zien handelen op een manier die een sociale norm schendt, door hun hond een speelplaats te laten bevuilen, bijvoorbeeld, en ze confronteren de dader er publiekelijk mee, ze voelen zich daarna goed. En hoewel het uitdagen van een overtreder van de sociale normen van uw gemeenschap risico's met zich meebrengt - u kunt worden aangevallen - verhoogt het ook uw reputatie.

In ons relatief vredige leven, we worden zelden geconfronteerd met schandalig gedrag, dus we zien zelden morele verontwaardiging geuit. Open Twitter of Facebook en je krijgt een heel ander beeld. Recent onderzoek toont aan dat berichten met zowel morele als emotionele woorden zich sneller verspreiden op sociale media - elk moreel of emotioneel woord in een tweet verhoogt de kans dat het wordt geretweet met 20 procent.

"Content die verontwaardiging oproept en die verontwaardiging uitdrukt, wordt veel vaker gedeeld, " zegt Crockett. Wat we online hebben gecreëerd, is "een ecosysteem dat selecteert voor de meest buitensporige inhoud, gecombineerd met een platform waar het gemakkelijker dan ooit is om verontwaardiging te uiten".

Anders dan in de offline wereld, er is geen persoonlijk risico bij het confronteren en ontmaskeren van iemand. Het kost slechts een paar klikken op een knop en u hoeft niet fysiek in de buurt te zijn, dus er is veel meer verontwaardiging online. En het voedt zichzelf. "Als je iemand straft voor het overtreden van een norm, waardoor je betrouwbaarder lijkt voor anderen, zodat je je morele karakter kunt uiten door verontwaardiging te uiten en schendingen van sociale normen te bestraffen, "zegt Crockett. "En mensen geloven dat ze het goede verspreiden door verontwaardiging te uiten - dat het komt uit een plaats van moraliteit en gerechtigheid.

"Als je van offline gaat - waar je je reputatie zou kunnen vergroten voor wie er op dat moment ook is - naar online, waar je het uitzendt naar je hele sociale netwerk, dan versterkt dat dramatisch de persoonlijke beloningen van het uiten van verontwaardiging."

Dit wordt nog verergerd door de feedback die mensen krijgen op sociale media, in de vorm van likes en retweets enzovoort. "Onze hypothese is dat het ontwerp van deze platforms het uiten van verontwaardiging tot een gewoonte zou kunnen maken, en een gewoonte is iets dat wordt gedaan zonder rekening te houden met de gevolgen ervan - het is ongevoelig voor wat er daarna gebeurt, het is gewoon een blinde reactie op een stimulus, ' legt Croket uit.

"Ik denk dat het de moeite waard is om als samenleving een gesprek te voeren over de vraag of we willen dat onze moraliteit onder controle staat van algoritmen die tot doel hebben geld te verdienen voor gigantische technologiebedrijven. " voegt ze eraan toe. "Ik denk dat we allemaal graag zouden willen geloven en voelen dat onze morele emoties, gedachten en gedragingen zijn opzettelijke en geen reflexmatige reacties op alles wat voor ons wordt geplaatst waarvan onze smartphone-ontwerper denkt dat het hen de meeste winst zal opleveren."

Aan de positieve kant, de lagere kosten van het uiten van verontwaardiging online hebben gemarginaliseerde, groepen met minder bevoegdheden om doelen te promoten die van oudsher moeilijker te bereiken waren. Morele verontwaardiging op sociale media speelde een belangrijke rol bij het vestigen van de aandacht op seksueel misbruik van vrouwen door mannen met een hoge status. En in februari 2018, Tieners in Florida die op sociale media protesteerden tegen weer een schietpartij op een middelbare school in hun staat, hielp de publieke opinie te veranderen. evenals het beschamen van een aantal grote bedrijven om hun kortingsregelingen voor leden van de National Rifle Association te laten vallen.

"Ik denk dat er manieren moeten zijn om de voordelen van de online wereld te behouden, " zegt Croket, "terwijl er zorgvuldiger wordt nagedacht over het opnieuw ontwerpen van deze interacties om enkele van de duurdere stukjes weg te doen."

Iemand die veel heeft nagedacht over het ontwerp van onze interacties in sociale netwerken is Nicholas Christakis, directeur van Yale's Human Nature Lab, gelegen op slechts een paar meer besneeuwde straten verderop. Zijn team bestudeert hoe onze positie in een sociaal netwerk ons ​​gedrag beïnvloedt, en zelfs hoe bepaalde invloedrijke individuen de cultuur van een heel netwerk drastisch kunnen veranderen.

Het team onderzoekt manieren om deze personen te identificeren en hen in te schakelen voor volksgezondheidsprogramma's die de gemeenschap ten goede kunnen komen. In Honduras, ze gebruiken deze benadering om vaccinatie-inschrijving en moederzorg te beïnvloeden, bijvoorbeeld. Online, zulke mensen hebben het potentieel om een ​​pestcultuur om te zetten in een ondersteunende cultuur.

Bedrijven gebruiken al een grof systeem om zogenaamde Instagram-beïnvloeders te identificeren om hun merken voor hen te adverteren. Maar Christakis kijkt niet alleen naar hoe populair een persoon is, maar ook hun positie in het netwerk en de vorm van dat netwerk. In sommige netwerken als een klein geïsoleerd dorp, iedereen is nauw met elkaar verbonden en je kent waarschijnlijk iedereen op een feest; in een stad, daarentegen, mensen kunnen als geheel dichter bij elkaar leven, maar op een feest daar ken je minder snel iedereen. Hoe grondig een netwerk met elkaar verbonden is, beïnvloedt hoe gedrag en informatie zich eromheen verspreiden, hij legt uit.

"Als je koolstofatomen neemt en ze op één manier assembleert, ze worden grafiet, die zacht en donker is. Neem dezelfde koolstofatomen en monteer ze op een andere manier, en het wordt diamant, wat hard en duidelijk is. Deze eigenschappen van hardheid en helderheid zijn geen eigenschappen van de koolstofatomen - het zijn eigenschappen van de verzameling koolstofatomen en hangen af ​​van hoe je de koolstofatomen met elkaar verbindt, "zegt hij. "En het is hetzelfde met menselijke groepen."

Christakis heeft software ontworpen om dit te onderzoeken door tijdelijke kunstmatige samenlevingen online te creëren. "We laten mensen binnen en dan laten we ze met elkaar communiceren en kijken hoe ze een spel van publieke goederen spelen, bijvoorbeeld, om te beoordelen hoe aardig ze zijn voor andere mensen."

Dan manipuleert hij het netwerk. "Door hun interacties op één manier te ontwikkelen, Ik kan ze heel lief voor elkaar maken, goed samenwerken, en ze zijn gezond en gelukkig en ze werken mee. Of je neemt dezelfde mensen en verbindt ze op een andere manier en ze zijn gemene eikels tegen elkaar en ze werken niet samen en ze delen geen informatie en ze zijn niet aardig voor elkaar."

In een experiment, hij wees willekeurig vreemden toe om het spel van openbare goederen met elkaar te spelen. In het begin, hij zegt, ongeveer tweederde van de mensen waren coöperatief. "Maar sommige mensen met wie ze omgaan, zullen er misbruik van maken en, omdat hun enige optie is om ofwel vriendelijk en meewerkend te zijn, ofwel een overloper te zijn, ze kiezen ervoor om over te lopen omdat ze opgescheept zitten met deze mensen die misbruik van hen maken. En tegen het einde van het experiment is iedereen een eikel voor iedereen."

Christakis keerde dit eenvoudig om door elke persoon een beetje controle te geven over met wie ze verbonden waren na elke ronde. "Ze moesten twee beslissingen nemen:ben ik aardig voor mijn buren of ben ik niet; en blijf ik bij deze buurman of niet." Het enige dat elke speler van zijn buren wist, was of ze in de vorige ronde hadden meegewerkt of overgelopen. "Wat we hebben kunnen laten zien, is dat mensen de banden met overlopers verbreken en banden aangaan met medewerkers, en het netwerk heeft zichzelf opnieuw bedraad en omgezet in een diamantachtige structuur in plaats van een grafietachtige structuur." Met andere woorden, een coöperatieve prosociale structuur in plaats van een niet-coöperatieve structuur.

In een poging om meer coöperatieve online communities te genereren, Het team van Christakis is begonnen met het toevoegen van bots aan hun tijdelijke samenlevingen. Hij neemt me mee naar een laptop en zet me op een ander spel. In dit spel, anonieme spelers moeten als team samenwerken om een ​​dilemma op te lossen waarmee tegelzetters bekend zullen zijn:ieder van ons moet kiezen uit een van de drie kleuren, maar de kleuren van spelers die direct met elkaar verbonden zijn, moeten verschillend zijn. Als we de puzzel binnen een tijdslimiet oplossen, we krijgen allemaal een deel van het prijzengeld; als we falen, niemand krijgt iets. Ik speel met minstens 30 andere mensen. Niemand van ons kan het hele netwerk van verbindingen zien, alleen de mensen met wie we direct verbonden zijn - niettemin, we moeten samenwerken om te winnen.

Ik ben verbonden met twee buren, waarvan de kleuren groen en blauw zijn, dus ik kies rood. Mijn linkerbuurman verandert dan in rood, dus ik verander snel in blauw. Het spel gaat door en ik word steeds gespannener, mijn trage reactietijden vervloeken. Ik moet vaak van kleur veranderen, reageren op ongeziene veranderingen elders in het netwerk, die een cascade van veranderingen langs de verbindingen sturen. De tijd is op voordat we de puzzel oplossen, veroorzaakte woedende reacties in het opmerkingenveld van de game van externe spelers die de domheid van alle anderen veroordelen. Persoonlijk, Ik ben opgelucht dat het voorbij is en dat er niet langer iemand afhankelijk is van mijn gekke spelvaardigheden om geld te verdienen.

Christakis vertelt me ​​dat sommige netwerken zo complex zijn dat het onmogelijk is om de puzzel in het tijdsbestek op te lossen. Mijn opluchting is van korte duur, echter:degene die ik speelde was oplosbaar. Hij spoelt het spel terug, voor het eerst het hele netwerk aan mij onthullend. Ik zie nu dat ik op een lagere tak van de belangrijkste hub van het netwerk was. Sommige spelers waren verbonden met slechts één andere persoon, maar de meeste waren verbonden met drie of meer. Duizenden mensen van over de hele wereld spelen deze spellen op Amazon Mechanical Turk, getrokken door de kleine vergoeding die ze per ronde verdienen. Maar terwijl ik naar de game kijk die ik zojuist heb gespeeld, ontvouwt zich Christakis onthult dat drie van deze spelers eigenlijk geplante bots zijn. "We noemen ze 'domme AI', " hij zegt.

Zijn team is niet geïnteresseerd in het uitvinden van superslimme AI om de menselijke cognitie te vervangen. In plaats daarvan, het plan is om een ​​populatie van slimme mensen te infiltreren met domme bots om de mensen te helpen zichzelf te helpen.

"We wilden zien of we de domme bots konden gebruiken om de mensen los te krijgen, zodat ze een beetje meer kunnen samenwerken en coördineren - zodat hun aangeboren vermogen om goed te presteren kan worden onthuld door een beetje hulp, " zegt Christakis. Hij ontdekte dat als de bots perfect speelden, dat hielp de mensen niet. Maar als de bots fouten maakten, ze ontsloten het potentieel van de groep om een ​​oplossing te vinden.

"Sommige van deze bots maakten contra-intuïtieve keuzes. Hoewel hun buren allemaal groen hadden en ze oranje hadden moeten plukken, in plaats daarvan kozen ze ook groen." Toen ze dat deden, het stond een van de groene buren toe om oranje te plukken, "die de volgende man ontgrendelt, hij kan een andere kleur kiezen en, Wauw, nu lossen we het probleem op". Zonder de bot, die menselijke spelers zouden waarschijnlijk allemaal bij groen zijn gebleven, niet beseffend dat dat het probleem was. "Door de conflicten tijdelijk te vergroten, kunnen hun buren betere keuzes maken."

Door een beetje ruis toe te voegen aan het systeem, de bots hielpen het netwerk efficiënter te functioneren. Misschien kan een versie van dit model het infiltreren van de nieuwsfeeds van partijdige mensen inhouden met incidentele items die een ander perspectief bieden, mensen uit hun sociale media-comfortbubbel helpen halen en de samenleving als geheel meer laten samenwerken.

Veel antisociaal gedrag online komt voort uit de anonimiteit van internetinteracties - de reputatiekosten van gemeen zijn zijn veel lager dan offline. Hier, bots kunnen ook een oplossing bieden. Eén experiment wees uit dat het niveau van racistisch misbruik dat wordt getweet tegen zwarte gebruikers drastisch kan worden verminderd door botaccounts met witte profielafbeeldingen te gebruiken om te reageren op racistische tweeters. Een typische botreactie op een racistische tweet zou zijn:"Hé man, onthoud gewoon dat er echte mensen zijn die gekwetst zijn als je ze lastigvalt met dat soort taal." Gewoon een beetje empathie cultiveren in dergelijke tweeters bracht hun racistische tweets wekenlang bijna tot nul terug.

Een andere manier om de lage reputatiekosten voor slecht gedrag online aan te pakken, is door een of andere vorm van sociale straf in te voeren. Een gamebedrijf, League of Legends, deed dat door een "Tribunal"-functie te introduceren, waarin negatief spel wordt bestraft door andere spelers. Het bedrijf meldde dat 280, 000 spelers werden "hervormd" in één jaar, wat betekent dat ze, nadat ze door het Tribunaal waren gestraft, hun gedrag hadden veranderd en toen een positieve positie in de gemeenschap hadden bereikt. Ontwikkelaars kunnen ook sociale beloningen inbouwen voor goed gedrag, het aanmoedigen van meer coöperatieve elementen die helpen bij het opbouwen van relaties.

Onderzoekers beginnen al te leren hoe ze kunnen voorspellen wanneer een uitwisseling op het punt staat slecht te worden - het moment waarop deze kan profiteren van preventieve interventie. "Je zou kunnen denken dat er een minderheid van sociopaten online is, die we trollen noemen, die al deze schade aanrichten, " zegt Cristian Danescu-Niculescu-Mizil, aan de afdeling Informatiewetenschappen van de Cornell University. "Wat we eigenlijk in ons werk vinden, is dat gewone mensen, net als jij en ik, dergelijk asociaal gedrag kunnen vertonen. Voor een bepaalde periode, je kunt echt een trol worden. En dat is verrassend."

Het is ook alarmerend. Ik blader mentaal terug door mijn eigen recente tweets, in de hoop dat ik niet ben overgegaan in pesten in een ongemakkelijke poging om grappig of cool te lijken voor mijn online volgers. Ten slotte, het kan heel verleidelijk zijn om iemand ver weg te beledigen, die je niet kent, als je denkt dat het indruk zal maken op je sociale groep.

Danescu-Niculescu-Mizil heeft de commentaarsecties onder online artikelen onderzocht. Hij identificeert twee belangrijke triggers voor trollen:de context van de uitwisseling - hoe andere gebruikers zich gedragen - en je humeur. "Als je een slechte dag hebt, of als het toevallig maandag is, bijvoorbeeld, je bent veel meer geneigd om te trollen in dezelfde situatie, "zegt hij. "Je bent aardiger op een zaterdagochtend."

Na het verzamelen van gegevens, inclusief van mensen die zich in het verleden hebben beziggehouden met trollen, Danescu-Niculescu-Mizil heeft een algoritme gebouwd dat met 80 procent nauwkeurigheid voorspelt wanneer iemand op het punt staat om online beledigend te worden. Dit biedt de mogelijkheid om, bijvoorbeeld, een vertraging introduceren in hoe snel ze hun antwoord kunnen posten. Als mensen twee keer moeten nadenken voordat ze iets schrijven, dat verbetert de context van de uitwisseling voor iedereen:je ziet minder snel dat mensen zich misdragen, en dus minder kans om jezelf te misdragen.

Het goede nieuws is dat, ondanks het vreselijke gedrag dat velen van ons online hebben ervaren, de meeste interacties zijn aardig en coöperatief. Gerechtvaardigde morele verontwaardiging wordt nuttig gebruikt bij het aanvechten van hatelijke tweets. Uit een recent Brits onderzoek naar antisemitisme op Twitter bleek dat posts die antisemitische tweets uitdagen veel breder worden gedeeld dan de antisemitische tweets zelf. De meeste hatelijke berichten werden genegeerd of alleen gedeeld binnen een kleine echokamer van vergelijkbare accounts. Misschien beginnen we zelf al het werk van de bots te doen.

Zoals Danescu-Niculescu-Mizil aangeeft, we hebben duizenden jaren de tijd gehad om onze persoonlijke interacties aan te scherpen, maar slechts 20 jaar sociale media. "Offline, we hebben al deze signalen, van gezichtsuitdrukkingen tot lichaamstaal tot pitch ... terwijl we online dingen alleen via tekst bespreken. I think we shouldn't be surprised that we're having so much difficulty in finding the right way to discuss and cooperate online."

As our online behaviour develops, we may well introduce subtle signals, digital equivalents of facial cues, to help smooth online discussions. Ondertussen, the advice for dealing with online abuse is to stay calm, it's not your fault. Don't retaliate but block and ignore bullies, or if you feel up to it, tell them to stop. Talk to family or friends about what's happening and ask them to help you. Take screenshots and report online harassment to the social media service where it's happening, and if it includes physical threats, report it to the police.

If social media as we know it is going to survive, the companies running these platforms are going to have to keep steering their algorithms, perhaps informed by behavioural science, to encourage cooperation rather than division, positive online experiences rather than abuse. As users, we too may well learn to adapt to this new communication environment so that civil and productive interaction remains the norm online as it is offline.

"I'm optimistic, " Danescu-Niculescu-Mizil says. "This is just a different game and we have to evolve."

This article first appeared on Mosaic and is republished here under a Creative Commons licence.