Facebook heeft voor het eerst gegevens beschikbaar gesteld over de omvang van beledigende opmerkingen die op zijn site zijn geplaatst. Dit kan zijn gedaan onder de groeiende druk van organisaties voor socialemediabedrijven om transparanter te zijn over online misbruik, of om geloofwaardigheid te verwerven na het Cambridge Analytica-gegevensschandaal. Hoe dan ook, de cijfers zorgen niet voor leesplezier.

In een periode van zes maanden van oktober 2017 tot maart 20178, 21 miljoen seksueel expliciete foto's, 3,5 miljoen grafisch gewelddadige berichten en 2,5 miljoen vormen van haatzaaien werden van de site verwijderd. Deze cijfers helpen om enkele opvallende punten te onthullen.

Zoals verwacht, de gegevens geven aan dat het probleem erger wordt. Bijvoorbeeld, tussen januari en maart werd geschat dat voor elke 10, 000 berichten online, tussen 22 en 27 bevatte grafisch geweld, gestegen van 16 naar 19 in de afgelopen drie maanden. Dit maakt het feit duidelijk dat in het VK, vervolgingen voor online misbruik zijn afgenomen, zoals blijkt uit onderstaande grafiek.

Maar wat Facebook ons ​​niet heeft verteld, is net zo belangrijk.

Het sociale netwerk staat onder toenemende druk om misbruik op zijn site te bestrijden, vooral, het verwijderen van terroristische propaganda na gebeurtenissen zoals de aanslag in Westminster in 2017 en de bomaanslag in de Manchester Arena. Hier, het bedrijf is proactief geweest. Tussen januari en maart 2018, Facebook verwijderde 1,9 miljoen berichten die terroristische propaganda aanmoedigden, een stijging van 800, 000 reacties vergeleken met de voorgaande drie maanden. In totaal is 99,5% van deze berichten gelokaliseerd met behulp van voortschrijdende technologie.

Op het eerste gezicht, het lijkt erop dat Facebook met succes software heeft ontwikkeld die deze inhoud van zijn server kan verwijderen. Maar Facebook heeft geen cijfers vrijgegeven die laten zien hoe wijdverbreid terroristische propaganda op zijn site is. We weten dus echt niet hoe succesvol de software in dit opzicht is.

Gewelddadige berichten verwijderen

Facebook heeft ook technologie gebruikt om grafisch geweld van zijn site te verwijderen. Tussen de twee perioden van drie maanden was er een toename van 183% in het aantal verwijderde berichten die als grafisch gewelddadig werden bestempeld. In totaal werd 86% van deze opmerkingen gemarkeerd door een computersysteem.

Maar we weten ook dat uit de cijfers van Facebook blijkt dat tot 27 op de 10, 000 opmerkingen die voorbij de detectietechnologie kwamen, bevatten grafisch geweld. Dat klinkt niet als veel, maar het is de moeite waard om rekening te houden met het enorme aantal reacties dat door de meer dan 2 miljard actieve gebruikers op de site is geplaatst. Een schatting suggereert dat 510, Elke minuut worden er 000 reacties geplaatst. Indien nauwkeurig, dat zou betekenen 1, 982, Elke 24 uur worden 880 gewelddadige opmerkingen geplaatst.

Om de fouten in de detectiesoftware te compenseren, Facebook, net als andere sociale netwerken, vertrouwt al jaren op zelfregulering, waarbij gebruikers worden aangemoedigd om opmerkingen te melden die volgens hen niet op de site zouden moeten staan. Bijvoorbeeld, tussen januari en maart 2018, Facebook heeft 2,5 miljoen reacties verwijderd die als haatzaaiende uitlatingen werden beschouwd, toch slechts 950, 000 (38%) van deze berichten waren gemarkeerd door het systeem. De overige 62% werd gemeld door gebruikers. Dit toont aan dat de technologie van Facebook er niet in slaagt om haatzaaiende uitlatingen op zijn netwerk adequaat te bestrijden, ondanks de groeiende bezorgdheid dat sociale netwerksites haatmisdrijven in de echte wereld aanwakkeren.

Hoeveel reacties worden gemeld?

Dit brengt ons bij het andere significante cijfer dat niet is opgenomen in de gegevens die door Facebook zijn vrijgegeven:het totale aantal opmerkingen dat door gebruikers is gerapporteerd. Aangezien dit een fundamenteel mechanisme is bij het aanpakken van onlinemisbruik, het aantal meldingen dat aan het bedrijf wordt gedaan, moet openbaar worden gemaakt. Dit zal ons in staat stellen om de volledige omvang van beledigend commentaar dat online wordt gemaakt te begrijpen, terwijl het het totale aantal berichten duidelijk maakt dat Facebook niet van de site verwijdert.

Het besluit van Facebook om gegevens vrij te geven waaruit de omvang van het misbruik op zijn site blijkt, is een belangrijke stap voorwaarts. Twitter, daarentegen, werd om soortgelijke informatie gevraagd, maar weigerde deze vrij te geven, beweren dat het misleidend zou zijn. Duidelijk, niet alle opmerkingen die zijn gemarkeerd door gebruikers van sociale netwerksites, zijn in strijd met de algemene voorwaarden. Maar het feit dat Twitter deze informatie niet vrijgeeft, suggereert dat het bedrijf niet bereid is de omvang van het misbruik op zijn eigen site te onthullen.

Echter, zelfs Facebook heeft nog een lange weg te gaan om tot volledige transparantie te komen. Ideaal, alle sociale netwerksites zouden jaarverslagen publiceren over hoe ze online misbruik aanpakken. Dit zou regelgevers en het publiek in staat stellen de bedrijven directer ter verantwoording te roepen voor het nalaten om online misbruik van hun servers te verwijderen.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.