Afgelopen oktober, softwareontwikkelaars bij Riot Games in Santa Monica hebben een ongebruikelijk verzoek ingediend. Net als andere makers van videogames, Het succes van Riot hangt af van het vermogen om games te maken die dwangmatig speelbaar zijn, zoals de wereldwijde hit 'League of Legends'. Maar Tencent, de Chinese techgigant die Riot bezit, een manier nodig had om enkele van zijn meest enthousiaste klanten te dwingen minder te spelen.

Hoewel het sinds 2011 een controlerend belang in Riot bezit, Tencent is over het algemeen hands-off als het gaat om de producten van het bedrijf. Maar geconfronteerd met toenemende druk van Chinese staatsmedia en regelgevers over zijn rol in een vermeende epidemie van videogameverslaving, Tencent had een manier nodig om bij te houden hoeveel tijd individuele gamers in China besteden aan het spelen van "League of Legends" - en minderjarigen die meer dan twee uur per dag overschrijden, eruit te schoppen. Als Riot-ingenieurs geen "anti-verslavingssysteem" hebben geleverd voor "League of Legends, "Ze zouden de toegang tot de Chinese markt mogelijk helemaal verliezen.

Binnen enkele weken, een update bracht deze functies naar de Chinese versie van "League of Legends".

Over het laatste jaar, het ene gamebedrijf na het andere heeft stilletjes ingestemd met de eisen van de Chinese overheid om de hoeveelheid tijd die jongeren aan hun games besteden te beperken. Chinese spelers van Amerikaanse hits zoals "League of Legends, "Fortnite" en "World of Warcraft" laten hun speeltijd volgen op basis van hun nationale ID-nummer. Degenen onder de 18 jaar worden geconfronteerd met zware in-game straffen of regelrechte uitsluiting als ze te lang spelen.

Hoewel het Chinees beleid is dat de beperkingen aanstuurt, voorstanders van gegevensprivacy zeggen dat voor Amerikanen om deel te nemen aan de creatie van deze tools het overschrijden van een zorgwekkende nieuwe drempel betekent. Ze beschouwen de stappen als onderdeel van een problematische trend van westerse technologiebedrijven die hun diensten opnieuw ontwerpen om China-vriendelijke versies te creëren die zijn afgestemd op de strengere sociale controles van het land.

"Voor Amerikaanse bedrijven het komt er echt op aan te beslissen of u al dan niet bereid bent om deel te nemen aan dit soort surveillance, " zei Matt Erickson, uitvoerend directeur van de Digital Privacy Alliance. "Als ze ervoor kiezen om mee te doen, het maakt deze bedrijven niet onwetend, maar volslagen medeplichtigen in de Chinese politiestaat."

Toegang tot de op een na grootste markt ter wereld is een krachtige stimulans, maar voor sommige bedrijven het ondersteunen van Chinese censuur en sociale controle-inspanningen is geen kwestie van keuze. Terwijl Chinese reuzen Amerikaanse technologiebedrijven opkopen, van de in West Hollywood gevestigde gay dating-app Grindr tot Motorola's mobiele telefoonbedrijf, regelgevers stellen vragen over de autonomie van bedrijven en het vermogen om verzoeken terug te dringen die in strijd zijn met hun ethische principes.

Interne documenten van Riot Games, verkregen door The Times, bieden een zeldzame inkijk in hoe de Chinese overheid invloed uitoefent op bedrijven buiten haar grenzen.

Tencent is 's werelds grootste game-uitgever en bezit grote of controlerende belangen in een reeks toonaangevende ontwikkelaars, waaronder 'Clash of Clans'-maker Supercell en 'Fortnite'-ontwikkelaar Epic Games. De zelf ontwikkelde titel, "Eer der koningen, " was 's werelds meest winstgevende mobiele game van 2018. Het succes van de game maakte het een bliksemafleider voor de groeiende bezorgdheid van de Chinese overheid over gameverslaving onder Chinese jongeren, wat Tencent ertoe heeft aangezet zijn eerste ID-tracking-speeltijdbeperkingssysteem te bouwen en te beloven soortgelijke systemen in al zijn games in 2019 op te nemen.

Een digitale presentatie die via e-mail werd verspreid onder ontwikkelaars op het hoofdkantoor van Riot in Santa Monica, riep op tot een "AAS-upgrade (anti-verslavingssysteem)" voor "League of Legends" in China. De presentatie, geschreven in China, plaatste het verzoek naast verhalen over de groeiende kritiek van de Chinese overheid op de game-industrie, officiële media-aanvallen op Tencent, en een grimmige herinnering dat "League of Legends" "niet vrij kan (zijn) van regelgeving."

Het verzoek specificeerde de behoefte aan functies die tienerspelers taggen in overeenstemming met "toekomstige AAS-regelgeving". Het vroeg ook om de mogelijkheid om bepaalde spelers op bepaalde tijden uit het spel te schoppen en op tijd gebaseerde in-game beloningen te beperken. De auteur van de presentatie heeft mock-ups van "anti-verslavingswaarschuwing" pop-ups op "League of Legends, " met berichten die spelers vertelden dat ze hun dagelijkse speellimieten hadden bereikt of dat het hun verboden was om tussen bepaalde uren (21:00 uur tot 8:00 uur) te spelen.

Het kostte de ontwikkelaars niet veel tijd om de gevraagde functies te produceren. In een bericht van december 2018 op de Chinese sociale-mediasite QQ, Riot China heeft een update aangekondigd voor "League of Legends", inclusief de meeste wijzigingen.

Gevraagd naar de mate van betrokkenheid van het in de VS gevestigde personeel bij de ontwikkeling van de systemen voor het volgen van identiteitsbewijzen en de speeltijdbeperking, Riot Games zei in een verklaring, "Onze hoofdingenieurs, gevestigd in Californië, zijn op de hoogte van elke functie die we creëren voor 'League of Legends.' We ontwikkelen samen marktspecifieke functies, met vertegenwoordigers van onze technische teams over de hele wereld."

Tencent verwees vragen door naar een extern PR-bureau, die weigerde te reageren.

Terwijl dergelijke systemen standaard worden in China, Jay Stanley, een beleidsanalist bij de American Civil Liberties Union, zei dat ze een granulaire privacy-invasie vormen die in strijd is met de Amerikaanse normen.

"Amerikaanse bedrijven maken deel uit van de Amerikaanse samenleving en zouden instellingen moeten zijn die we kunnen vertrouwen, vasthouden aan Amerikaanse waarden, Stanley zei. "Als deze bedrijven in het buitenland opereren en deelnemen aan autoritaire regimes, dan is het echt een probleem."

Stanley erkende dat het voor bedrijven als Riot moeilijk zou zijn om te weigeren deze systemen te implementeren ten koste van een uitsluiting van de Chinese gamingmarkt van $ 36,5 miljard. maar zei dat als we dit niet doen, invasieve surveillance internationaal zou worden genormaliseerd. "Dit zal veel bedrijven in de problemen brengen, maar wij als land moeten de Amerikaanse waarden verdedigen, ' zei Stanley.

Amerikaanse techgiganten zoals Google en Facebook hebben vergelijkbare moeilijke keuzes moeten maken over het al dan niet creëren van gecensureerde versies van hun platforms om toegang te krijgen tot China. Google verliet het land in 2010 te midden van geschillen over gecensureerde zoekresultaten en een groot hackincident. De onthulling van vorig jaar dat het bedrijf in het geheim was begonnen met werken aan een censuur-conforme Chinese zoekmachine, codenaam Project Dragonfly, leidde tot verontwaardiging van Google-medewerkers en Amerikaanse politici. (Een Google-functionaris vertelde het Congres vorige week dat het het project heeft beëindigd.) Facebook heeft naar verluidt de toegang tot China opgegeven nadat het jarenlang Peking het hof had gemaakt, het bedrijf geen uitstel van een verbod van 2009 te bezorgen. In de tussentijd, Amerikaanse wetgevers zijn begonnen te pleiten voor een einde aan het geld van Amerikaanse investeerders dat wordt gesluisd naar de ontwikkeling van Chinese bewakingssystemen die worden gebruikt bij de onderdrukking van religieuze en etnische minderheden.

De anti-verslavingsregels waarnaar in de Riot-documenten wordt verwezen, lijken te verwijzen naar een verklaring van het Chinese Ministerie van Onderwijs die vorig jaar werd vrijgegeven. In het, het ministerie zei dat het stappen zou ondernemen om het aantal beschikbare online games te beheersen, explore age-based restrictions and limit the amount of time adolescents spend gaming. No specifics or timeline were given, but many major game publishers in China rolled out their own solutions in anticipation of government action.

Tencent started requiring mandatory age and ID authentication on its top-grossing mobile game "Honor of Kings" in 2018, making players provide their Chinese national ID information for verification against police databases. The company has said the checks will be applied to all of its games this year and has been conducting trials of additional verification methods including mandatory facial recognition checks.

The Shenzhen-based firm, which also owns China's largest social media platform, WeChat, is under intense pressure to address Chinese government concerns around the negative effects of gaming. Tencent's market value fell by a record-breaking $271 billion last year partly because of a complete freeze on new game approvals from March through December of 2018. (The stock has since rallied as regulators began working through the backlog.) The halt came amid a flurry of official criticism blaming excessive gaming for everything from increasing rates of nearsightedness among youth to potential national security vulnerabilities from mobile gaming addiction among military personnel.

Lisa Cosmas Hanson, founder of Asia-focused gaming market intelligence firm Niko Partners, said that the freeze on game approvals and the resulting backlog have hurt many game companies in China, forcing some smaller operations to shut down. Although approvals have resumed, the process has become more difficult, ze zei.

"Publishers in China have told me things like that it used to be a 20-page application and now it's 300, " Hanson said. According to research by her firm, only 75 imported games have been approved so far this year, down from 467 in 2017.

Although real-ID verification systems are relatively new, features designed to limit the amount of time Chinese gamers spend online have been around for more than a decade. Irvine-based Blizzard Entertainment put a three-hour playtime limit on the Chinese server for its massively multiplayer online role-playing game, "World of Warcraft, " in 2006. Gamers got around the restrictions by creating multiple accounts and switching between them, but the system has since been upgraded to require age and identity verification through a national ID.

"Fortnite, " which has held the title of the world's largest and highest-grossing free-to-play online game for most of the last year, rolled out similar ID verification and playtime tracking restrictions in China earlier this year. Neither "Fortnight" publisher Epic Games, based in Cary, NC, nor Blizzard Entertainment responded to requests for comment.

Looming over all this is China's planned rollout of a social credit system, which will assign citizens a score incorporating both standard financial metrics, such as debt repayment, and more personal information such as shopping habits and online behavior. Once a nationwide system debuts in 2020, a citizen with a low score could reportedly face penalties such as losing the right to buy plane and high-speed rail tickets, take out loans or purchase property. Excessive time spent playing video games is one specific behavior that could lower your score with Sesame Credit—one of the system's main private pilot programs. This applies not only to minors but gamers of all ages.

While there have as yet been no indications of ID-linked tracking systems being used for anything beyond limiting minors' gaming time, some people remain concerned about the potential for future misuse, particularly because Tencent has already conducted its own short-lived pilot of a social credit system last year.

"There is no right to privacy in China, " said Erickson, of the Digital Privacy Alliance. "Any information collected to make sure kids aren't playing too many video games will definitely be used by the government and the police for whatever purpose they see fit."

Jack Poulson, founder of the advocacy group Tech Inquiry, says American tech workers—lacking visibility into executive-level decisions and other divisions of their sprawling conglomerates—aren't always aware when they are participating in projects that might go against their values. "There's no real protection in place to ensure that employees have an understanding of what they are helping build, " hij zei.

Poulson served as a senior scientist at Google's research and machine intelligence department before publicly resigning last year in the wake of the Project Dragonfly revelations. He founded Tech Inquiry to help tech workers push back on unethical requests. He said the first step to ensuring that staff aren't corralled into work they find morally objectionable is having a clear understanding of a project's end goals, but he acknowledged that in Riot's case the murky distinction between the Chinese public and private sectors makes this easier said than done.

"How do you even get a sense of what the likely uses of this data could be? It could be a government decision, it could be Tencent, " Poulson said. "With something like this, it's obviously more complicated."

©2019 Los Angeles Times
Gedistribueerd door Tribune Content Agency, LLC.