science >> Wetenschap >  >> Elektronica

Waarom lost Facebook zichzelf niet op? Het is deels mensen

Een automatisch gegenereerde Facebook-pagina voor een groep die zichzelf identificeert als de terreurgroep "Al-Qaeda op het Arabische schiereiland" toont een foto van het gebombardeerde oorlogsschip USS Cole. De pagina was dinsdag nog steeds live, 7 mei 2019, toen de schermgreep werd gemaakt. Facebook zegt dat het robuuste systemen heeft om inhoud van extremistische groepen te verwijderen, maar de klacht van een verzegelde klokkenluider die door de AP is beoordeeld, zegt dat verboden inhoud op internet blijft en gemakkelijk te vinden is. (Facebook via AP)

De vraag komt keer op keer, met extremistisch materiaal, Haattoespraak, inmenging in verkiezingen en privacyschendingen. Waarom kan Facebook het niet gewoon oplossen?

Het is ingewikkeld, met redenen die de grootte van Facebook omvatten, zijn bedrijfsmodel en technische beperkingen, om nog maar te zwijgen van jaren van ongecontroleerde groei. Oh, en het element van de menselijke natuur.

De laatste onthulling:Facebook maakt per ongeluk feestelijke video's met extremistische inhoud en automatisch genererende bedrijfspagina's voor mensen als ISIS en Al Qaida. Het bedrijf zegt aan oplossingen te werken en de problemen worden beter. Dat is waar, maar critici zeggen dat beter niet goed genoeg is wanneer massale schietpartijen live worden gestreamd en online mobs geruchten verspreiden die tot dodelijk geweld leiden.

"Ze zijn frustrerend traag geweest in het omgaan met alles, van seksueel misbruik van kinderen tot terrorisme, Blanke overheersing, pesten, niet-consensuele porno" en zaken als het toestaan ​​van adverteerders om zich te richten op categorieën zoals "Jodenhater, " simpelweg omdat sommige gebruikers de term hadden vermeld als een "interesse, " zei Hany Farid, een digitale forensisch expert aan de Universiteit van Californië, Berkeley.

Als er nieuwe problemen opduiken, De formule van Facebook was om zich te verontschuldigen en te beloven veranderingen aan te brengen, soms ook opmerkend dat het niet anticipeerde hoe kwaadwillende actoren zijn platform zo gemakkelijk zouden kunnen misbruiken. Recenter, het bedrijf heeft ook benadrukt hoeveel het aan het verbeteren is, zowel technisch in het gebruik van kunstmatige intelligentie om problemen op te sporen als in termen van meer geld en moeite om ze op te lossen.

Een banner met de tekst "De Islamitische Staat" wordt weergegeven op de Facebook-pagina van een gebruiker die zichzelf identificeert als Nawan Al-Farancsa. De pagina was dinsdag nog live, 7 mei 2019, toen de schermgreep werd gemaakt. Facebook zegt dat het robuuste systemen heeft om inhoud van extremistische groepen te verwijderen, maar de klacht van een verzegelde klokkenluider die door de AP is beoordeeld, zegt dat verboden inhoud op internet blijft en gemakkelijk te vinden is. (Facebook via AP)

"Na zware investeringen te hebben gedaan, we detecteren en verwijderen terrorisme-inhoud met een veel hoger succespercentage dan zelfs twee jaar gaan, Facebook zei woensdag in reactie op de onthullingen over de automatisch gegenereerde pagina's. "We beweren niet alles te vinden, en we blijven waakzaam in onze inspanningen tegen terroristische groeperingen over de hele wereld."

Het heeft enig succes gezien. Eind 2016, CEO Mark Zuckerberg verwierp het idee dat nepnieuws over zijn dienst de verkiezingen had kunnen beïnvloeden als 'behoorlijk gek'. Later keerde hij terug, en sindsdien heeft het bedrijf de hoeveelheid verkeerde informatie die over zijn service wordt gedeeld, verminderd, zoals gemeten door verschillende onafhankelijke onderzoeken.

Zuckerberg heeft ook over het algemeen, vermeed soortgelijke blunders door fouten toe te geven en excuses aan te bieden aan het publiek en de wetgevers.

Maar zelfs als het bedrijf een probleem oplost, andere duiken op. De reden daarvoor zou in het DNA kunnen zitten. En dat is niet alleen omdat het bedrijfsmodel ervan afhankelijk is dat zoveel mogelijk mensen het zo veel mogelijk gebruiken, persoonlijke gegevens achterlaten die vervolgens kunnen worden getarget door adverteerders.

  • Op deze donderdag 29 maart 2018, bestand foto, het logo voor Facebook verschijnt op schermen op de Nasdaq MarketSite, op Times Square in New York. De vraag komt keer op keer, met extremistisch materiaal, Haattoespraak, inmenging van verkiezingen, privacy-inbreuken, discriminatie op de woningmarkt. Waarom kan Facebook het niet gewoon oplossen? (AP Foto/Richard Drew, Bestand)

  • Op deze 11 april 2018, bestand foto, Facebook-CEO Mark Zuckerberg getuigt voor een hoorzitting van House Energy and Commerce op Capitol Hill in Washington. Facebook wekt de indruk dat het de overgrote meerderheid van extremistische berichten stopt voordat gebruikers ze ooit zien. Maar de klacht van een vertrouwelijke klokkenluider bij de Securities and Exchange Commission, verkregen door The Associated Press, beweert dat het socialemediabedrijf zijn succes heeft overdreven. (AP Foto/Andrew Harnik, Bestand)

"Bijna alles wat Facebook heeft ontworpen, is ontworpen voor goede mensen. Mensen die aardig voor elkaar zijn, die verjaardagen te vieren hebben, die nieuwe puppy's hebben en anderen graag goed behandelen, " zei Shiva Vaidhyanathan, directeur van het Centrum voor Media en Burgerschap aan de Universiteit van Virginia. "In principe is Facebook gemaakt voor een betere soort dan de onze. Als het gemaakt was voor golden retrievers, alles zou geweldig zijn."

Maar als slechts 1% van de 2,4 miljard mensen op Facebook anderen vreselijke dingen wil aandoen, dat zijn 24 miljoen mensen.

"Elke paar weken, we horen dat Facebook lastige pagina's platgooit, beloften doen over het aannemen van meer mensen, AI bouwen enzovoort, " zei Vaidhyanathan. "Maar op de schaal van Facebook, dat zal allemaal niet uitmaken. We zitten eigenlijk opgescheept met al dit afval."

Chris Hughes, mede-oprichter van Facebook, riep op tot een uiteenvallen van de socialemediagigant in een donderdag opiniestuk. Vaidhyanathan denkt ook dat sterke overheidsregulering het antwoord kan zijn, zoals wetten die "het vermogen van bedrijven beperken om al onze gegevens op te zuigen en deze te gebruiken voor gerichte advertenties."

"We zouden echt de achterkant van Facebook moeten aanpakken, "zei hij. "Dat is wat je moet aanvallen."

© 2019 The Associated Press. Alle rechten voorbehouden.