Eerder deze maand kondigde Meta aan dat het werkt aan een reeks ethische richtlijnen voor 'virtuele beïnvloeders':geanimeerde, typisch computergegenereerde karakters die zijn ontworpen om de aandacht te trekken op sociale media.

Toen Facebook zichzelf eind vorig jaar omdoopte tot Meta, luidde het een spil in naar de "metaverse" - waar virtuele influencers vermoedelijk op een dag met duizenden zullen rondzwerven.

Zelfs Meta geeft toe dat de metaverse nog niet echt bestaat. De bouwstenen van een blijvende, meeslepende virtual reality voor alles, van zaken tot spelen, moeten nog volledig worden geassembleerd. Maar virtuele influencers zijn al online en zijn verrassend overtuigend.

Maar gezien zijn recente geschiedenis, is Meta (née Facebook) echt het juiste bedrijf is om de ethische normen voor virtuele influencers en de metaverse in het algemeen vast te stellen?

Wie (of wat) zijn virtuele influencers?

Meta's aankondiging wijst op het "opkomende fenomeen" van synthetische media - een overkoepelende term voor afbeeldingen, video, spraak of tekst gegenereerd door geautomatiseerde technologie, meestal met behulp van kunstmatige intelligentie (AI) of automatisering.

Veel virtuele influencers nemen elementen van synthetische media op in hun ontwerp, variërend van volledig digitaal weergegeven lichamen tot menselijke modellen die digitaal worden gemaskeerd met de gezichtskenmerken van personages.

Aan beide uiteinden van de schaal is dit proces nog steeds sterk afhankelijk van menselijke arbeid en input, van art direction voor fotoshoots tot het schrijven van bijschriften voor sociale media. Net als Meta's visie op de metaverse, zijn influencers die volledig worden gegenereerd en aangedreven door AI een grotendeels futuristische fantasie.

Maar zelfs in hun huidige vorm zijn virtuele influencers van grote waarde voor Meta, zowel als attractie voor hun bestaande platformen als als avatars van de metaverse.

De interesse in virtuele influencers is de afgelopen vijf jaar snel gegroeid en trok een enorm publiek op sociale media en partnerschappen met grote merken, waaronder Audi, Bose, Calvin Klein, Samsung en het Chinese e-commerceplatform TMall.

Er is al een concurrerende industrie ontstaan ​​die gespecialiseerd is in de productie, het beheer en de promotie van virtuele influencers, hoewel deze grotendeels ongereguleerd blijft.

Tot nu toe is India het enige land dat virtuele beïnvloeders aanspreekt in nationale advertentiestandaarden, waarbij merken worden geëist "aan consumenten bekend te maken dat ze geen interactie hebben met een echt mens" bij het plaatsen van gesponsorde inhoud.

Ethische richtlijnen

Er is dringend behoefte aan ethische richtlijnen, zowel om producenten en hun merkpartners te helpen door dit nieuwe terrein te navigeren, en, nog belangrijker, om gebruikers te helpen de inhoud te begrijpen waarmee ze zich bezighouden.

Meta heeft gewaarschuwd dat "synthetische media het potentieel hebben voor zowel goed als kwaad", en noemt "representatie en culturele toe-eigening" als specifieke punten van zorg.

Ondanks hun korte levensduur hebben virtuele influencers inderdaad al een geschiedenis van openlijke racialisering en verkeerde voorstelling van zaken, wat ethische vragen oproept voor producenten die digitale karakters creëren met andere demografische kenmerken dan die van henzelf.

Maar het is verre van duidelijk of de voorgestelde richtlijnen van Meta deze vragen adequaat zullen beantwoorden.

Becky Owen, hoofd innovatie en oplossingen voor creators bij Meta Creative Shop, zei dat het geplande ethische kader "onze merkpartners en VI-makers zal helpen onderzoeken wat mogelijk, waarschijnlijk en wenselijk is, en wat niet."

Deze schijnbare nadruk op technologische mogelijkheden en de wensen van merkpartners leidt tot de onvermijdelijke indruk dat Meta opnieuw commercieel potentieel vermengt met ethische praktijk.

Volgens eigen telling hosten de platforms van Meta al meer dan 200 virtuele influencers. Maar virtuele influencers bestaan ​​ook elders:ze doen virale dansuitdagingen op TikTok, uploaden vlogs naar YouTube en posten levensupdates op Sina Weibo. Ze verschijnen 'offline' in winkelcentra in Peking en Singapore, op 3D-reclameborden in Tokio en schitteren in tv-commercials.

Jachtwacht of stroper?

Dit brengt ons terug bij de vraag of Meta het juiste bedrijf is om de basisregels voor deze opkomende ruimte vast te stellen.

De geschiedenis van het bedrijf wordt gekenmerkt door onethisch gedrag, van het twijfelachtige begin van Facebook in de slaapzaal van Mark Zuckerberg in Harvard (zoals afgebeeld in The Social Network) tot grootschalige tekortkomingen in de privacy die werden aangetoond in het Cambridge Analytica-schandaal.

In februari 2021 liet Facebook zien hoe ver het wilde gaan om zijn belangen te verdedigen, toen het alle nieuwsinhoud op Facebook in Australië kort verbood om de federale overheid te dwingen de Australian News Media Bargaining Code af te zwakken.

Vorig jaar werd ook voormalig Facebook-executive Frances Haugen zeer publiekelijk klokkenluider en deelde een schat aan interne documenten met journalisten en politici.

Deze zogenaamde "Facebook Papers" riepen tal van zorgen op over het gedrag en de ethiek van het bedrijf, waaronder de onthulling dat uit eigen interne onderzoek van Facebook bleek dat Instagram de geestelijke gezondheid van jonge mensen kan schaden en zelfs tot zelfmoord kan leiden.

Vandaag bestrijdt Meta Amerikaanse antitrustgeschillen die tot doel hebben het monopolie van het bedrijf in te perken door het mogelijk te dwingen belangrijke acquisities te verkopen, waaronder Instagram en WhatsApp.

Ondertussen worstelt Meta om zijn berichtenservice in alle drie de apps te integreren, waardoor ze in feite verschillende interfaces worden voor een gedeelde back-end waarvan Meta ongetwijfeld zal beweren dat het niet haalbaar is om te scheiden, ongeacht de uitkomsten van de huidige rechtszaak.

Gezien dit achtergrondverhaal lijkt Meta verre van de ideale keuze als ethische bewaker van de metaverse.

De reeds uitgebreide verspreiding van virtuele beïnvloeders over platforms en markten benadrukt de behoefte aan ethische richtlijnen die verder gaan dan de belangen van één bedrijf, vooral een bedrijf dat zoveel kan winnen van het naderende spektakel.