De Amerikaanse technologiegigant Microsoft heeft samengewerkt met een Chinese militaire universiteit om kunstmatige-intelligentiesystemen te ontwikkelen die mogelijk de bewakings- en censuurmogelijkheden van de overheid zouden kunnen verbeteren. Twee Amerikaanse senatoren veroordeelden het partnerschap publiekelijk. maar wat de National Defense Technology University of China van Microsoft wil, is niet de enige zorg.

Zoals mijn onderzoek laat zien, de komst van digitale repressie heeft grote invloed op de relatie tussen burger en staat. Nieuwe technologieën bewapenen regeringen met ongekende mogelijkheden om toezicht te houden, individuele mensen volgen en in de gaten houden. Zelfs regeringen in democratieën met sterke rechtsstaattradities komen in de verleiding om deze nieuwe vaardigheden te misbruiken.

In staten met onverantwoordelijke instellingen en frequente mensenrechtenschendingen, AI-systemen zullen hoogstwaarschijnlijk grotere schade aanrichten. China is een prominent voorbeeld. Zijn leiderschap heeft AI-technologieën enthousiast omarmd, en heeft 's werelds meest geavanceerde surveillancestaat opgezet in de provincie Xinjiang, het volgen van de dagelijkse bewegingen en het smartphonegebruik van burgers.

De exploitatie van deze technologieën vormt een huiveringwekkend model voor medeautocraten en vormt een directe bedreiging voor open democratische samenlevingen. Hoewel er geen bewijs is dat andere regeringen dit niveau van AI-surveillance hebben nagebootst, Chinese bedrijven exporteren actief dezelfde onderliggende technologieën over de hele wereld.

Toenemende afhankelijkheid van AI-tools in de VS

Kunstmatige intelligentiesystemen zijn overal in de moderne wereld, helpen met het runnen van smartphones, internetzoekmachines, digitale spraakassistenten en Netflix-filmwachtrijen. Veel mensen realiseren zich niet hoe snel AI zich uitbreidt, dankzij de steeds grotere hoeveelheden te analyseren gegevens, verbetering van algoritmen en geavanceerde computerchips.

Elke keer dat er meer informatie beschikbaar komt en analyse eenvoudiger wordt, regeringen zijn geïnteresseerd – en niet alleen autoritaire. In de VS, bijvoorbeeld, zagen in de jaren zeventig onthullingen dat overheidsinstanties – zoals de FBI, CIA en NSA – hadden uitgebreide binnenlandse surveillancenetwerken opgezet om burgerrechtendemonstranten te volgen en lastig te vallen, politieke activisten en Indiaanse groepen. Deze problemen zijn niet verdwenen:de huidige digitale technologie heeft het vermogen van nog meer instanties om nog meer opdringerige surveillance uit te voeren, verdiept.

Bijvoorbeeld, De Amerikaanse politie heeft AI-technologieën gretig omarmd. Ze zijn begonnen met het gebruik van software die bedoeld is om te voorspellen waar misdaden zullen plaatsvinden om te beslissen waar agenten op patrouille moeten worden gestuurd. Ook gebruiken ze gezichtsherkenning en DNA-analyse in strafrechtelijke onderzoeken. Maar analyses van deze systemen laten zien dat de gegevens waarop die systemen zijn getraind vaak bevooroordeeld zijn, leidt tot oneerlijke resultaten, zoals het ten onrechte vaststellen dat Afro-Amerikanen meer kans hebben om misdaden te plegen dan andere groepen.

AI-bewaking over de hele wereld

In autoritaire landen, AI-systemen kunnen directe controle en bewaking in huis bevorderen, het helpen van interne veiligheidstroepen bij het verwerken van enorme hoeveelheden informatie - inclusief posts op sociale media, tekstberichten, e-mails en telefoontjes – sneller en efficiënter. Op basis van de informatie die door deze systemen wordt ontdekt, kan de politie maatschappelijke trends en specifieke personen identificeren die het regime zouden kunnen bedreigen.

Bijvoorbeeld, de Chinese overheid heeft AI gebruikt bij grootschalige repressie in regio's waar etnische minderheden in China wonen. Surveillancesystemen in Xinjiang en Tibet zijn beschreven als "Orwelliaans". Deze inspanningen omvatten verplichte DNA-monsters, Wi-Fi-netwerkbewaking en wijdverbreide camera's voor gezichtsherkenning, allemaal verbonden met geïntegreerde data-analyseplatforms. Met behulp van deze systemen Chinese autoriteiten hebben volgens het Amerikaanse ministerie van Buitenlandse Zaken, "willekeurig vastgehouden" tussen 1 en 2 miljoen mensen.

Mijn onderzoek kijkt naar 90 landen over de hele wereld met regeringstypen variërend van gesloten autoritaire tot gebrekkige democratieën, inclusief Thailand, Kalkoen, Bangladesh en Kenia. Ik heb ontdekt dat Chinese bedrijven AI-surveillancetechnologie exporteren naar ten minste 54 van deze landen. Vaak, deze technologie is verpakt als onderdeel van China's vlaggenschip Belt and Road Initiative, die een uitgebreid wegennet financiert, spoorwegen, energiepijpleidingen en telecommunicatienetwerken die 60% van de wereldbevolking bedienen en economieën die 40% van het mondiale BBP genereren.

Bijvoorbeeld, Chinese bedrijven zoals Huawei en ZTE bouwen "slimme steden" in Pakistan, de Filippijnen en Kenia, met uitgebreide ingebouwde bewakingstechnologie. Bijvoorbeeld, Huawei heeft Bonifacio Global City in de Filippijnen uitgerust met high-definition internet-verbonden camera's die "24/7 intelligente beveiligingstoezicht bieden met data-analyse om misdaad te detecteren en het verkeer te helpen beheren".

Hikvisie, Yitu en SenseTime leveren ultramoderne gezichtsherkenningscamera's voor gebruik in plaatsen zoals Singapore - dat de oprichting aankondigde van een bewakingsprogramma met 110, 000 camera's gemonteerd op lantaarnpalen rond de stadstaat. Zimbabwe maakt een nationale beeldbank aan die kan worden gebruikt voor gezichtsherkenning.

Echter, het verkopen van geavanceerde apparatuur voor winst is iets anders dan het delen van technologie met een uitdrukkelijk geopolitiek doel. Deze nieuwe mogelijkheden kunnen de kiem leggen voor wereldwijde surveillance:naarmate regeringen steeds afhankelijker worden van Chinese technologie om hun bevolking te beheren en de macht te behouden, zij zullen met grotere druk worden geconfronteerd om zich aan te sluiten bij de agenda van China. Maar voorlopig lijkt het erop dat China's primaire drijfveer is om de markt voor nieuwe technologieën te domineren en daarbij veel geld te verdienen.

AI en desinformatie

Naast het bieden van bewakingsmogelijkheden die zowel ingrijpend als fijnkorrelig zijn, AI kan repressieve regeringen helpen om beschikbare informatie te manipuleren en desinformatie te verspreiden. Deze campagnes kunnen geautomatiseerd of geautomatiseerd worden, en gebruik hypergepersonaliseerde berichten gericht op – of tegen – specifieke mensen of groepen.

AI ondersteunt ook de technologie die gewoonlijk "deepfake, " waarin algoritmen realistische video- en audiovervalsingen creëren. Het modderen van de wateren tussen waarheid en fictie kan nuttig worden in een krappe verkiezing, toen een kandidaat nepvideo's kon maken waarin een tegenstander dingen doet en zegt die nooit echt zijn gebeurd.

Volgens mij, beleidsmakers in democratieën moeten goed nadenken over de risico's van AI-systemen voor hun eigen samenlevingen en voor mensen die onder autoritaire regimes over de hele wereld leven. Een cruciale vraag is hoeveel landen China's model van digitale surveillance zullen overnemen. Maar het zijn niet alleen autoritaire landen die de aantrekkingskracht voelen. En het zijn ook niet alleen Chinese bedrijven die de technologie verspreiden:veel Amerikaanse bedrijven, Microsoft inbegrepen, maar IBM, Cisco en Thermo Fisher ook, hebben geavanceerde mogelijkheden geleverd aan vervelende regeringen. Het misbruik van AI is niet beperkt tot autocratische staten.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.