Facebook staat in crisismodus, maar het bedrijf kan grote stappen ondernemen om zichzelf te herstellen - en de wereldwijde gemeenschap die het zegt te willen promoten. Facebook-oprichter, CEO en meerderheidsaandeelhouder Mark Zuckerberg hoeft niet te wachten tot overheden regelgeving opleggen. Als hij en andere marktleiders dat wilden, ze konden vrij snel betekenisvolle veranderingen doorvoeren.

Het zou niet pijnloos zijn, maar Facebook in het bijzonder is al in een wereld van pijn, geconfronteerd met kritiek voor het bijdragen aan burgerlijke onrust en sektarische onrust over de hele wereld, vertraagde reacties op desinformatiecampagnes, gebruikers misleiden over beleid voor gegevensverwerking, en pogingen om critici in diskrediet te brengen - om nog maar te zwijgen van een ontluikende werknemersopstand.

Facebook, Twitter, Google en andere socialemediabedrijven richten maatschappelijke schade aan. Maar ze hebben de neiging om de problemen te beschrijven als veel kleiner, als gevolg van malafide individuen en groepen die hun systemen kapen voor snode doeleinden. Ons onderzoek naar hoe sociale media kunnen worden uitgebuit door manipulatieve politieke agenten, uitgevoerd met Joan Donovan van het onderzoeksinstituut Data &Society, suggereert dat het echte probleem veel groter is dan deze bedrijven toegeven.

Wij geloven dat de wortels liggen in hun uiterst winstgevende advertentiesystemen, die een grote opknapbeurt nodig hebben. We hebben enkele belangrijke veranderingen geïdentificeerd die deze gigantische krachtpatsers meteen zouden kunnen maken. Deze maatregelen zouden de kansen op politieke manipulatie kunnen verminderen en de schade aan democratische samenlevingen over de hele wereld kunnen beperken.

Gedachten van gebruikers in het vizier

Facebook, Google, Twitter en andere sociale-mediabedrijven hebben een enorme digitale beïnvloedingsmachine gebouwd die wordt aangedreven door gebruikerstracking, gericht op, testen en geautomatiseerde besluitvorming om reclame effectiever en efficiënter te maken. Tijdens het bouwen van dit supercharged bewakingssysteem, bedrijven hebben gebruikers en regelgevers beloofd dat gerichte advertenties voor beide partijen voordelig zijn voor zowel consumenten als adverteerders.

In dit koopje, gebruikers zouden relevantere advertenties moeten ontvangen. Facebook, bijvoorbeeld, legt uit dat de "op interesses gebaseerde advertenties" gebruikers dienen die "advertenties willen zien die betrekking hebben op dingen die hen interesseren". Het is waar dat deze methoden advertenties kunnen identificeren die aansluiten bij de werkelijke interesses van gebruikers. Maar dezelfde datagestuurde technieken die een surfer vertellen over een nieuw bordontwerp, kunnen ook strategische punten identificeren waar mensen het meest kwetsbaar zijn voor beïnvloeding.

Vooral, de toonaangevende advertentiesystemen op sociale media laten politieke agenten experimenteren met verschillende advertenties om te zien welke het meest effectief zijn. Ze kunnen deze tools niet alleen gebruiken om te zien of bepaalde kwesties resoneren met bepaalde doelen, maar ook om te testen op angsten of vooroordelen die kunnen worden ingeroepen om politiek gedrag te beïnvloeden.

Een belangrijke manier om dit te doen is mensen het gevoel te geven dat iemand anders een emotioneel geladen bedreiging vormt voor hun identiteit. in 2016, bijvoorbeeld, Aan Rusland gelieerde agenten kochten duizenden Facebook-advertenties die waren gericht op specifieke doelgroepen en suggereerden dat Hillary Clinton de waardigheid van hun groep had beledigd of hun veiligheid had bedreigd. Sommige advertenties beweerden dat Clinton respectloos was voor specifieke beroepen, zoals mijnwerkers, of raciale groepen, zoals Afro-Amerikanen. Anderen beweerden dat ze wapens in beslag zou nemen of radicale politieke bewegingen zou steunen die de vertrouwde manier van leven omver wilden werpen.

Het targeten van politieke advertenties is niet uniek voor online adverteren, maar de tools van digitale advertentiesystemen zijn veel krachtiger dan traditionele massamedia. Adverteerders kunnen verschillende versies van een advertentie tegelijk uitproberen en krijgen vrijwel direct feedback over welke versies het meest effectief zijn voor specifieke doelgroepen om te delen, like of becommentarieer ze. Deze digitale feedbacklus helpt politieke agenten hun tactieken te verfijnen, zoekend naar precies de juiste afbeeldingen, woorden en emoties om zeer specifieke subgroepen van burgers te beïnvloeden.

Beweeg snel en repareer dingen

Leden van het Congres en zelfs enkele belangrijke figuren uit Silicon Valley zijn begonnen met het bespreken van de noodzaak van strenger overheidstoezicht en grotere verantwoordingsplicht in digitale advertenties. Verandering hoeft niet op de politiek te wachten.

Op basis van onze analyse, hier zijn enkele stappen die bedrijven meteen kunnen nemen - alleen. Deze bewegingen kunnen de financiën van de bedrijven schaden, maar zou blijk geven van serieuze en blijvende inzet om het nut van hun platforms in campagnes voor politieke manipulatie te beperken.

Als hun eerste zet, socialemediabedrijven zouden kunnen stoppen met het toestaan ​​dat hun advertentiediensten worden gebruikt als freewheelende experimentele laboratoria voor het onderzoeken van de psyche van hun gebruikers. Net zoals marketeers en academische onderzoekers toestemming moeten krijgen van hun proefpersonen, politieke adverteerders die online advertentie-experimenten uitvoeren, kunnen vooraf geïnformeerde toestemming krijgen van elke betrokken gebruiker. Bedrijven moeten gebruikers om toestemming vragen in specifieke meldingen over advertentie-experimenten en gebruikers niet straffen voor het afmelden door hun toegang tot services te beperken. We vermoeden dat veel gebruikers zich zouden afmelden voor deze tests als ze de keuze zouden krijgen, maar in ieder geval zou dit beleid de publieke aandacht helpen vestigen op de verborgen manipulatietools die platforms aanbieden aan hun echte klanten:de politieke en commerciële adverteerders die de rekeningen betalen.

Maak gerichte politieke advertenties transparant

Om de transparantie te vergroten en het vermogen van speciale belangen om in het geheim de politiek te beïnvloeden te beperken, socialemediabedrijven zouden kunnen weigeren om samen te werken met zogenaamde dark money-groepen. Alle politieke adverteerders zouden moeten worden verplicht hun belangrijkste donateurs bekend te maken in een formaat dat gebruikers gemakkelijk kunnen openen.

Een nieuw beleid dat advertenties voor donker geld verbiedt, zou reageren op bewijs dat politieke agenten imitatie en manipulatieve advertentietactieken hebben gebruikt om onderlinge strijd aan te wakkeren of verdeeldheid te zaaien onder coalities van hun tegenstanders. Nabootsing van identiteit werkt duidelijk het beste wanneer advertentiesponsors hun identiteit en motieven kunnen verbergen. Anonieme advertenties zijn ook eerder in strijd met ethische normen, simpelweg omdat niemand bang is ervoor verantwoordelijk te worden gehouden.

Platforms democratischer maken

Een belangrijkere verandering die sociale-mediabedrijven zouden kunnen maken, zou zijn om democratisch toezicht in te voeren op de manier waarop ze gegevens van mensen verzamelen en gebruiken.

Zuckerberg van Facebook zette onlangs een eerste stap in deze richting, kondigt aan dat hij onafhankelijke beoordelingspanels zal creëren om de beroepen van gebruikers te behandelen tegen de verwijdering door het bedrijf van inhoud die het ongepast acht. Hij legde uit dat hij ervoor wilde zorgen dat "deze beslissingen worden genomen in het belang van onze gemeenschap en niet om commerciële redenen".

Wat je ook van dit plan vindt – en het is met veel scepsis begroet – Zuckerbergs redenering erkent dat, omdat sociale platforms zo centraal zijn geworden in het democratische leven, hun eigen beleid en ontwerpbeslissingen vereisen democratische verantwoording.

Een ambitieuzere visie zou onafhankelijke ethische panels, die verschillende gebruikersgemeenschappen vertegenwoordigen, een afdwingbaar beleid voor ethische politieke advertenties laten opstellen. Soortgelijke groepen komen veel voor in de geneeskunde en ontstaan ​​in kunstmatige intelligentie, onder andere velden. De details van hoe dergelijke comités werken, zullen van cruciaal belang zijn voor hun succes. Als deze comités worden opgericht in samenwerking met non-profitorganisaties met bewezen staat van dienst in het pleiten voor democratische communicatie en transparantie van campagnefinanciering, misschien kunnen ze sociale-mediabedrijven helpen meer vertrouwen van het publiek te winnen door voorrang te geven aan democratie boven het maximaliseren van hun winst.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.