Facebook zei woensdag dat zijn software steeds bedrevener wordt in het bespioneren van verboden inhoud op het sociale netwerk, en vervolgens met mensen werken om snel terroristische video's en meer te verwijderen.

"Terwijl we dwalen aan de kant van vrije meningsuiting, we trekken over het algemeen de grens bij alles wat kan leiden tot echte schade, "Facebook-topman Mark Zuckerberg zei tijdens een briefing over het laatste rapport van het bedrijf over het opsporen van berichten die het beleid schenden.

"Dit is een klein deel van de inhoud op Facebook en Instagram, en we verwijderen veel ervan voordat iemand het ziet."

Facebook heeft zwaar geïnvesteerd in kunstmatige intelligentie (AI) om automatisch verboden inhoud te herkennen, vaak voordat het door gebruikers wordt gezien, en menselijke teams van reviewers die controleren of de software op schema lag.

Facebook heeft meer dan 35, 000 mensen die werken aan veiligheid en beveiliging, en besteedt jaarlijks miljarden dollars aan die missie, volgens Zuckerberg.

"Onze inspanningen werpen hun vruchten af, Zuckerberg zei. "Systemen die we hebben gebouwd om deze problemen aan te pakken, zijn geavanceerder."

Als het gaat om het detecteren van haatspraak, Facebook-software vindt nu automatisch 80 procent van de verwijderde inhoud, een enorme verbetering ten opzichte van twee jaar geleden, toen bijna al dergelijk materiaal niet werd behandeld totdat het door gebruikers werd gemeld, volgens het in Californië gevestigde bedrijf.

Nettelende nuance

Zuckerberg merkte op dat haatdragende taal voor AI moeilijker te detecteren is dan naaktheid in afbeeldingen of video vanwege "linguïstische nuances" die context vereisen die zelfs gewone woorden bedreigend kunnen maken.

Voeg daar nog video's aan toe van aanvallen gedreven door vooringenomenheid tegen een race, geslacht of religie zou kunnen worden gedeeld om dergelijk geweld te veroordelen in plaats van het te verheerlijken.

Mensen bij Facebook blijven proberen video's te delen van een gruwelijke moskee-aanval in Christchurch, Nieuw-Zeeland, met sociale netwerksystemen die 95 procent van die pogingen blokkeren, volgens leidinggevenden.

Een eenzame schutter opende in maart het vuur op twee moskeeën in de stad Christchurch en doodde en verwondde tientallen moslims. die de aanslagen live uitzendt op Facebook.

Facebook heeft terrorisme-experts als onderdeel van een team van meer dan 350 mensen die zich inzetten om te voorkomen dat terroristische groeperingen het sociale netwerk gebruiken, aldus Monika Bickert, hoofd global policy management.

Systemen die zijn aangescherpt om verboden inhoud op Facebook te vinden en te verwijderen, worden ook gebruikt op Instagram, die de inspanningen heeft opgevoerd om inhoud uit te filteren die zelfmoord of zelfbeschadiging kan aanmoedigen, terwijl mensen zulke traumatische ervaringen kunnen delen in de geest van herstel of genezing,

Regels die onlangs op Instagram zijn ingevoerd, hebben tekeningen en andere fictieve inhoud aan de lijst toegevoegd voor een verbod op afbeeldingen die zelfmoord of zelfbeschadiging kunnen aanmoedigen.

De dienst voor het delen van foto's en video's die eigendom is van Facebook, heeft begin dit jaar de beelden van zelfverwonding de kop ingedrukt nadat een Britse tiener die online ging om te lezen over zelfmoord, zelfmoord pleegde in 2017.

De geschiedenis van de 14-jarige op sociale media onthulde dat ze accounts volgde over depressie en zelfmoord.

De zaak leidde tot een heftig debat in Groot-Brittannië over ouderlijk toezicht en staatsregulering van het gebruik van sociale media door kinderen.

Instagram heeft nooit berichten toegestaan ​​die zelfmoord of zelfbeschadiging promoten of aanmoedigen.

Met een regelwijziging begin dit jaar, Instagram begon verwijzingen naar niet-grafische inhoud met betrekking tot mensen die zichzelf pijn deden te verwijderen uit de zoek- en aanbevelingsfuncties.

De maatregelen waren bedoeld om dergelijke beelden moeilijker te vinden te maken voor depressieve tieners die mogelijk suïcidale neigingen hebben.

© 2019 AFP