Toen bekend werd dat het bloedbad in Nieuw-Zeeland live werd gestreamd op Facebook, Ik dacht meteen aan Robert Godwin Sr. In 2017, Godwin werd vermoord in Cleveland, Ohio, en de eerste rapporten gaven aan dat de aanvaller het streamde op Facebook Live, destijds een relatief nieuwe functie van het sociale netwerk. Facebook verduidelijkte later dat de grafische video na het evenement was geüpload, maar het incident vestigde de publieke aandacht op de risico's van geweld bij livestreaming.

Na de moord op Godwin, Ik heb aanbevolen dat Facebook Live-uitzendingen vertraagd zijn, tenminste voor Facebook-gebruikers die het bedrijf hadden verteld dat ze onder de 18 waren. volwassen gebruikers zouden de mogelijkheid hebben om ongepaste inhoud te markeren voordat kinderen eraan worden blootgesteld. Facebook Live heeft moorden uitgezonden, evenals andere ernstige misdrijven zoals aanranding, marteling en kindermishandeling. Hoewel het bedrijf er meer dan 3 heeft aangenomen, 000 extra moderators voor menselijke inhoud, Facebook is er niet beter in om te voorkomen dat gruwelijk geweld live online wordt gestreamd zonder enige filter of waarschuwing voor gebruikers.

In de 24 uur na het bloedbad in Nieuw-Zeeland, 1,5 miljoen video's en afbeeldingen van de moorden werden geüpload naar de servers van Facebook, kondigde het bedrijf aan. Facebook benadrukte het feit dat 1,2 miljoen van hen "werden geblokkeerd bij het uploaden". Echter, als onderzoeker en docent op het gebied van sociale media, Ik hoorde dat als een bekentenis dat 300, 000 video's en afbeeldingen van een massamoord gingen door zijn geautomatiseerde systemen en waren zichtbaar op het platform.

Het bedrijf heeft onlangs enkele analytische details vrijgegeven en merkte op dat minder dan 200 mensen de livestream van het bloedbad bekeken, en dat verrassend, geen enkele gebruiker meldde het aan Facebook totdat het eindigde. Deze details maken pijnlijk duidelijk hoe afhankelijk Facebook is van gebruikers om schadelijke inhoud te markeren. Ze suggereren ook dat mensen niet weten hoe ze ongepaste inhoud moeten melden - of er niet op vertrouwen dat het bedrijf actie zal ondernemen op de klacht.

De video die overbleef nadat de livestream eindigde, werd bijna 4 bekeken, 000 keer - exclusief kopieën van de video die door andere gebruikers naar andere sites en naar Facebook zijn geüpload. Het is onduidelijk hoeveel van de mensen die het zagen minderjarig waren; jongeren vanaf 13 jaar mogen Facebook-accounts opzetten en kunnen ongefilterde beelden van moorddadige haat tegenkomen. Het is tijd voor het bedrijf om op te staan ​​en de belofte waar te maken die zijn oprichter en CEO, Mark Zuckerberg, twee jaar geleden gemaakt, na de moord op Godwin:"We zullen er alles aan blijven doen om dit soort tragedies te voorkomen."

Een eenvoudige vertraging

In de televisie-industrie, korte vertragingen van enkele seconden zijn typisch tijdens uitzendingen van live-evenementen. In die tijd kan een moderator de inhoud beoordelen en bevestigen dat deze geschikt is voor een breed publiek.

Facebook vertrouwt op gebruikers als moderators, en sommige livestreams hebben misschien geen groot publiek zoals tv, dus de vertraging zou langer moeten zijn, misschien een paar minuten. Alleen dan zouden voldoende volwassen gebruikers het hebben gescreend en de kans hebben gehad om de inhoud ervan te melden. grote gebruikers, inclusief uitgevers en bedrijven, direct na het volgen van een training kunnen livestreamen. Facebook zou mensen zelfs een bedrijfsmoderator kunnen laten vragen voor aankomende livestreams.

Facebook heeft deze relatief eenvoudige stap nog niet gezet – en de reden is duidelijk. Tijdsvertragingen ontstonden alleen bij tv omdat omroepregulatoren omroepen bestraften voor het uitzenden van ongepaste inhoud tijdens liveshows. Er is in feite geen regelgeving voor sociale-mediabedrijven; ze veranderen alleen om winst te maken of om publieke verontwaardiging te minimaliseren.

Of en hoe sociale media te reguleren is een politieke vraag, maar veel Amerikaanse politici hebben diepe banden ontwikkeld met platforms zoals Facebook. Sommigen vertrouwen op sociale media om donaties te verzamelen, target supporters met advertenties en help hen verkozen te worden. Eenmaal op kantoor, ze blijven sociale media gebruiken om met supporters te communiceren in de hoop herkozen te worden.

Federale instanties gebruiken ook sociale media om met het publiek te communiceren en de mening van mensen te beïnvloeden, zelfs in strijd met de Amerikaanse wet. Volgens mij, De rol van Facebook als hulpmiddel om te winnen, Door politieke macht te behouden en te verspreiden, is het veel minder waarschijnlijk dat politici deze in toom houden.

Amerikaanse regelgeving komt niet snel

Het congres heeft nog geen zinvolle actie ondernomen om sociale-mediabedrijven te reguleren. Ondanks krachtige uitspraken van politici en zelfs oproepen tot hoorzittingen over sociale media als reactie op de aanval in Nieuw-Zeeland, Amerikaanse toezichthouders zullen waarschijnlijk niet het voortouw nemen.

Ambtenaren van de Europese Unie doen veel van het werk, vooral rond privacy. De regering van Nieuw-Zeeland is opgevoerd, te, het verbieden van de livestream-video van het bloedbad in de moskee, wat betekent dat iedereen die het deelt tot NZ $ 10 kan worden geconfronteerd, 000 boetes en 14 jaar gevangenisstraf. Er zijn al minstens twee mensen gearresteerd omdat ze het online hadden gedeeld.

Facebook kan – en moet – nu handelen

In een groot deel van de discussie over het reguleren van sociale media is overwogen om antitrust- en monopoliewetten te gebruiken om de enorme technologiereuzen zoals Facebook te dwingen op te splitsen in kleinere afzonderlijke bedrijven. Maar als het al gebeurt, dat zal heel moeilijk zijn - het opbreken van AT&T duurde een decennium, van de rechtszaak in 1974 tot de lancering in 1984 van de "Baby Bell"-bedrijven.

In de tussentijd, er zullen veel meer gevaarlijke en gewelddadige incidenten zijn die mensen zullen proberen te livestreamen. Facebook moet het potentieel voor misbruik van zijn producten evalueren en deze stopzetten als de effecten schadelijk zijn voor de samenleving.

Geen enkel kind zou ooit het soort "ruwe en viscerale inhoud" mogen zien die is geproduceerd op Facebook Live - inclusief massamoord. Ik denk ook niet dat volwassen gebruikers moeten worden blootgesteld aan het zien van dergelijke gruwelijke daden, aangezien studies hebben aangetoond dat het bekijken van grafisch geweld gezondheidsrisico's met zich meebrengt, zoals posttraumatische stress.

Daarom adviseer ik niet langer alleen een livestream-uitstel voor adolescente gebruikers - het was een oproep om kinderen te beschermen, wanneer meer grote platformwijzigingen onwaarschijnlijk zijn. Maar alle mensen verdienen betere en veilige sociale media. Ik roep Mark Zuckerberg nu op om Facebook Live te sluiten in het belang van de volksgezondheid en veiligheid. Volgens mij, die functie mag alleen worden hersteld als het bedrijf aan het publiek - en aan regelgevers - kan bewijzen dat het ontwerp veiliger is.

Handling livestreaming safely includes having more than enough professional content moderators to handle the workload. Those workers also must have appropriate access to mental health support and safe working environments, so that even Facebook employees and contractors are not unduly scarred by brutal violence posted online.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Read the original article.