Toen AlphaGo van Google in 2017 de Chinese grootmeester versloeg bij een spelletje Go, China werd geconfronteerd met zijn eigen "Spoetnik-moment":een prompt om zijn spel op de ontwikkeling van kunstmatige intelligentie (AI) op te voeren. Zowaar, Peking streeft naar de lancering van een AI-innovatieagenda op nationaal niveau voor "civiel-militaire fusie". Het maakt deel uit van China's ambitieuze streven om een ​​"wetenschaps- en technologie-supermacht" te worden, maar ook een nieuw front in een steeds zorgwekkendere wapenwedloop.

in 2017, de Chinese president, Xi Jinping riep expliciet op tot het versnellen van militair AI-onderzoek om China beter voor te bereiden op toekomstige oorlogvoering tegen een grote tegenstander zoals de VS. China's benadering van AI is sterk beïnvloed door zijn beoordeling van Amerikaanse militaire initiatieven, in het bijzonder de derde compensatiestrategie van het Pentagon, een plan uit het Obama-tijdperk dat het Pentagon een mandaat gaf om te experimenteren met geavanceerde wapentechnologieën, AI onder hen.

Peking heeft formeel nog steeds geen coherent strategisch kader of operationele concepten geformuleerd, maar zoals Rusland, het blijft een reeks AI-technologieën voor militair gebruik nastreven als onderdeel van een bredere inspanning om kwetsbaarheden in Amerikaanse militaire middelen te misbruiken.

Terwijl de VS (voorlopig) de overhand behoudt in AI-innovatie over de hele linie, China is aan het inhalen. Het is een sterke concurrent in allerlei militaire innovatie, en zal naar verwachting de VS inhalen in de ontwikkeling van AI in de niet zo verre toekomst. En, terwijl de VS en China racen om te innoveren op het gebied van AI, de onzekerheden rond hun respectievelijke vorderingen (en tegenslagen) zullen diepgaande en mogelijk destabiliserende implicaties hebben voor het strategische evenwicht van de wereldorde.

Van alle risico's die dit met zich meebrengt, bovenaan de lijst staat dat naarmate de benaderingen van de VS en China voor militaire innovatie uiteenlopen, nieuwe vooroordelen en voorkeuren – bijvoorbeeld criteria om te beslissen wanneer het gebruik van dodelijk geweld gepast en ethisch verdedigbaar is - zullen worden "ingebakken" in hun respectievelijke AI-wapensystemen, resulterend in intelligente wapens die handelen op basis van gebrekkige menselijke logica of veronderstellingen (zoals al is waargenomen in algoritmen die zijn ontwikkeld om de neiging van criminelen tot recidive te beoordelen). De resulterende cognitieve vooroordelen zouden het wederzijdse wantrouwen van de twee landen kunnen verergeren, achterdocht en misvattingen, en ze mogelijk dichter bij een groot conflict te brengen.

Heet op de hielen

China heeft verschillende structurele, politieke en maatschappelijke voordelen in de AI-wapenwedloop. Zijn nationale strategische planning is veel coherenter dan die van de VS, en de nationale datasets zijn ongeëvenaard in omvang. Xi's uitgestrekte "One Belt, One Road"-initiatief, een plan om een ​​enorm internationaal netwerk van handelsbetrekkingen en infrastructuur op te bouwen, heeft een opkomende virtuele tegenhanger:de zogenaamde "Digitale Zijderoute", die niet alleen AI omvat, maar ook quantum computing, nanotechnologie, grote gegevens, en cloudopslag.

De situatie in de VS is veel rommeliger. De regering-Trump en Silicon Valley delen een steeds gespannen relatie, wat betekent dat ze moeite zullen hebben om samen te werken aan AI-technologieën die het Amerikaanse leger kan gebruiken. Als de Amerikaanse commerciële AI-innovatie de veel tragere benadering van het Pentagon op het gebied van inkoop en ontwikkeling van AI snel blijft overtreffen, de twee zullen elkaar niet aanvullen zoals ze zouden moeten - waardoor China een grote kans krijgt om de overhand te krijgen.

De VS lijken stappen te ondernemen om deze problemen aan te pakken. Ondanks een korte pauze in de ontwikkeling van de strategische routekaart voor AI van de VS, het Witte Huis kondigde onlangs de oprichting aan van een nieuwe commissie van AI-experts om het te adviseren over beleidskeuzes. En anno 2017, Donald Trump blokkeerde een Chinees bedrijf om Lattice Semiconductor over te nemen, een Amerikaans bedrijf dat chips produceert die essentieel zijn voor de werking van AI-toepassingen.

Deze stappen weerspiegelen een toenemende bezorgdheid dat China's strategie om civiele en militaire technologische innovatie te versmelten Amerikaanse technologie, expertise en intellectueel eigendom gedeeld met Chinese commerciële entiteiten om te worden overgedragen aan het Chinese leger.

Het Terminator-raadsel

Het lijkt erop dat China – net als Rusland – relatief weinig morele, juridische of ethische bezwaren bij het inzetten van dodelijke autonome wapens. Recente rapporten suggereren dat China al begonnen is met het integreren van AI-technologieën in zijn volgende generatie conventionele raketten en raketverdedigingsintelligentie, bewakings- en verkenningssystemen om hun precisie en wettigheid te verbeteren.

De VS zullen waarschijnlijk veel meer beperkt zijn in de ontwikkeling van deze technologieën. De terughoudendheid van het Pentagon om AI in bestaande wapens op te nemen, is gebaseerd op liberaal-democratische normen voor het gebruik van militair geweld, en in een bezorgdheid om te vermijden wat het Pentagon het Terminator-raadsel heeft genoemd - het vooruitzicht dat militaire robots op een dag onafhankelijk kunnen beslissen of ze een mensenleven willen nemen of niet.

Dat gezegd hebbende, voortgestuwd door het snelle tempo van technologische trends in AI - en het agressieve nastreven van deze capaciteiten door rivaliserende machten - zou de huidige toewijding van de VS om mensen de baas te houden kunnen wankelen. Als het huidige traject stand houdt, China zal binnenkort de leiding van de VS op verschillende opkomende militair-technologische strategische gebieden uitdagen. Dat zal waarschijnlijk de inspanningen van het Pentagon versnellen om te innoveren, compenserende initiatieven en concepten – en op zijn beurt, maken het moeilijker om deze ontwrichtende hightech wapenwedloop in toom te houden.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.