De uitvinding van een kunstmatige superintelligentie is al sinds de 19e eeuw een centraal thema in sciencefiction. Van E.M. Forster's korte verhaal The Machine Stops (1909) tot de recente HBO-televisieserie Westworld, schrijvers hebben de neiging om deze mogelijkheid af te schilderen als een regelrechte ramp. Maar deze kwestie is niet langer een kwestie van fictie. Vooraanstaande hedendaagse wetenschappers en ingenieurs maken zich nu ook zorgen dat super-AI op een dag de menselijke intelligentie (een gebeurtenis die bekend staat als de 'singulariteit') zou kunnen overtreffen en de 'ergste fout' van de mensheid zou kunnen worden.

De huidige trends suggereren dat we een internationale wapenwedloop voor een dergelijke technologie zullen aangaan. Welk hightechbedrijf of overheidslab er ook in slaagt de eerste super-AI uit te vinden, krijgt een potentieel werelddominante technologie. Het is een winner-takes-all prijs. Dus voor degenen die zo'n evenement willen stoppen, de vraag is hoe dit soort wapenwedloop te ontmoedigen, of op zijn minst concurrerende teams aanmoedigen om niet te bezuinigen op AI-veiligheid.

Een super-AI roept twee fundamentele uitdagingen op voor zijn uitvinders:zoals filosoof Nick Bostrom en anderen hebben opgemerkt. Een daarvan is een controleprobleem, dat is hoe ervoor te zorgen dat de super-AI dezelfde doelen heeft als de mensheid. Zonder dit, de intelligentie zou opzettelijk, per ongeluk of door nalatigheid de mensheid vernietigen - een 'AI-ramp'.

Het tweede is een politiek probleem, dat is hoe ervoor te zorgen dat de voordelen van een superintelligentie niet alleen naar een kleine elite gaan, veroorzaakt enorme sociale en welvaartsongelijkheid. Als er een super-AI-wapenwedloop plaatsvindt, het zou ertoe kunnen leiden dat concurrerende groepen deze problemen negeren om hun technologie sneller te ontwikkelen. Dit kan leiden tot een slechte of onvriendelijke super-AI.

Een voorgestelde oplossing is om het overheidsbeleid te gebruiken om het moeilijker te maken om deel te nemen aan de race om het aantal concurrerende groepen te verminderen en de capaciteiten van degenen die wel meedoen te verbeteren. Hoe minder deelnemers, hoe minder druk er zal zijn om de bochten af ​​te snijden om te winnen. Maar hoe kunnen overheden op deze manier de concurrentie verminderen?

Mijn collega Nicola Dimitri en ik hebben onlangs een paper gepubliceerd waarin we deze vraag probeerden te beantwoorden. We hebben eerst laten zien dat in een typische winner-takes all-race, zoals degene die de eerste super-AI bouwde, alleen de meest competitieve teams zullen deelnemen. Dit komt omdat de kans dat de super-AI daadwerkelijk wordt uitgevonden erg klein is, en meedoen aan de race is erg duur vanwege de grote investeringen in onderzoek en ontwikkeling die nodig zijn.

Inderdaad, dit lijkt de huidige situatie te zijn met de ontwikkeling van eenvoudiger "smalle" AI. Octrooiaanvragen voor dit soort AI worden gedomineerd door een paar bedrijven, en het overgrote deel van AI-onderzoek wordt gedaan in slechts drie regio's (de VS, China en Europa). Er schijnen er ook maar weinig te zijn, indien van toepassing, groepen die momenteel investeren in het bouwen van een super-AI.

Dit suggereert dat het verminderen van het aantal concurrerende groepen op dit moment niet de belangrijkste prioriteit is. Maar zelfs met kleinere aantallen deelnemers in de race, de intensiteit van de concurrentie zou nog steeds tot de bovengenoemde problemen kunnen leiden. Dus om de intensiteit van de concurrentie tussen groepen die streven naar het bouwen van een super-AI te verminderen en hun capaciteiten te vergroten, regeringen zouden zich kunnen wenden tot openbare aanbestedingen en belastingen.

Overheidsopdrachten verwijzen naar alle dingen die overheden particuliere bedrijven betalen om te voorzien, van software voor gebruik in overheidsinstanties tot contracten om diensten uit te voeren. Overheden kunnen beperkingen opleggen aan elke super-AI-leverancier die van hen eist dat ze de potentiële problemen aanpakken, en complementaire technologieën ondersteunen om de menselijke intelligentie te verbeteren en te integreren met AI.

Maar overheden kunnen ook aanbieden om een ​​minder-dan-beste versie van super-AI te kopen, het effectief creëren van een "tweede prijs" in de wapenwedloop en voorkomen dat het een competitie wordt die alles wint. Met een tussenprijs, wat zou kunnen zijn voor het uitvinden van iets dat in de buurt komt van (maar niet precies) een super-AI, concurrerende groepen zullen een prikkel hebben om meer te investeren en samen te werken, het verminderen van de intensiteit van de concurrentie. Een tweede prijs zou ook het risico op mislukking verminderen en meer investeringen rechtvaardigen, helpen om de capaciteiten van de concurrerende teams te vergroten.

Wat de belastingen betreft, regeringen zouden het belastingtarief kunnen bepalen voor de groep die super-AI uitvindt op basis van hoe vriendelijk of onvriendelijk de AI is. Een voldoende hoog belastingtarief zou in wezen de nationalisatie van de super-AI betekenen. Dit zou particuliere bedrijven sterk ontmoedigen om te bezuinigen uit angst hun product aan de staat te verliezen.

Publiek goed, geen privaat monopolie

Dit idee vereist mogelijk een betere wereldwijde coördinatie van belastingen en regulering van super-AI. Maar het zou niet nodig zijn dat alle regeringen erbij betrokken zijn. In theorie, een enkel land of enkele regio (zoals de EU) zou de kosten en inspanningen kunnen dragen die nodig zijn om de problemen en ethiek van super-AI aan te pakken. Maar alle landen zouden hiervan profiteren en super-AI zou een publiek goed worden in plaats van een onstuitbaar particulier monopolie.

Dit alles hangt natuurlijk af van het feit of super-AI een bedreiging voor de mensheid vormt. En sommige wetenschappers denken van niet. Natuurlijk kunnen we de risico's van super-AI in de loop van de tijd wegnemen. Sommigen denken dat mensen zelfs kunnen fuseren met AI.

Wat het geval ook is, onze planeet en haar bewoners hebben er enorm veel baat bij om ervoor te zorgen dat we het beste uit AI halen, een technologie die nog in de kinderschoenen staat. Voor deze, we moeten beter begrijpen welke rol de overheid kan spelen.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.