Amazone, Microsoft en Intel behoren tot de toonaangevende technologiebedrijven die de wereld in gevaar brengen door middel van moordende robotontwikkeling, volgens een rapport dat grote spelers uit de sector ondervroeg over hun standpunt over dodelijke autonome wapens.

De Nederlandse NGO Pax rangschikte 50 bedrijven op drie criteria:of ze technologie ontwikkelden die relevant zou kunnen zijn voor dodelijke AI, of ze werkten aan verwante militaire projecten, en of ze zich hadden verplicht om in de toekomst niet meer bij te dragen.

"Waarom ontkennen bedrijven als Microsoft en Amazon niet dat ze momenteel deze zeer controversiële wapens ontwikkelen, die zou kunnen beslissen om mensen te doden zonder directe menselijke tussenkomst?" zei Frank Slijper, hoofdauteur van het rapport dat deze week is gepubliceerd.

Het gebruik van AI om wapensystemen autonoom doelen te laten selecteren en aan te vallen heeft de afgelopen jaren geleid tot ethische debatten, met critici die waarschuwden dat ze de internationale veiligheid in gevaar zouden brengen en een derde revolutie in oorlogsvoering zouden inluiden na buskruit en de atoombom.

Een panel van regeringsdeskundigen heeft woensdag tijdens een bijeenkomst van het VN-Verdrag inzake bepaalde conventionele wapens in Genève gedebatteerd over beleidsopties met betrekking tot dodelijke autonome wapens.

Google, die vorig jaar leidende principes publiceerde die AI schuwen voor gebruik in wapensystemen, was een van de zeven bedrijven die zich bezighielden met "best practices" in de analyse die 12 landen omvatte, net als de Japanse Softbank, vooral bekend om zijn humanoïde Pepper-robot.

Tweeëntwintig bedrijven waren van "middelmatige zorg, " terwijl 21 in de categorie "zeer zorgwekkend" viel, met name Amazon en Microsoft, die allebei bieden op een Pentagon-contract van 10 miljard dollar om de cloudinfrastructuur voor het Amerikaanse leger te leveren.

Anderen in de "grote zorg"-groep zijn Palantir, een bedrijf met wortels in een door de CIA gesteunde durfkapitaalorganisatie die een contract van $ 800 miljoen kreeg om een ​​AI-systeem te ontwikkelen "dat soldaten kan helpen een gevechtsgebied in realtime te analyseren."

"Autonome wapens zullen onvermijdelijk schaalbare massavernietigingswapens worden, want als de mens niet in de lus zit, dan kan een enkele persoon een miljoen wapens of honderd miljoen wapens lanceren, "Stuart Russel, een professor computerwetenschappen aan de Universiteit van Californië, Dat vertelde Berkeley woensdag aan AFP.

"Het feit is dat autonome wapens zullen worden ontwikkeld door bedrijven, en in termen van een campagne om te voorkomen dat autonome wapens wijdverbreid worden, ze kunnen een zeer grote rol spelen, " hij voegde toe.

De ontwikkeling van AI voor militaire doeleinden heeft geleid tot discussies en protest binnen de industrie:vorig jaar weigerde Google een Pentagon-contract genaamd Project Maven te verlengen, die machine learning gebruikte om mensen en objecten te onderscheiden in drone-video's.

Het viel ook uit de running voor Joint Enterprise Defense Infrastructure (JEDI), het cloudcontract dat Amazon en Microsoft hopen binnen te halen.

Het rapport merkte op dat Microsoft-medewerkers ook hun verzet hadden geuit tegen een contract van het Amerikaanse leger voor een augmented reality-headset, HoloLens, dat gericht is op "het verhogen van de dodelijkheid" op het slagveld.

Hoe ze eruit kunnen zien

Volgens Russel, "alles wat momenteel een wapen is, men werkt aan autonome versies, of het nu tanks zijn, gevechtsvliegtuigen, of onderzeeërs."

De Israëlische Harpij is een autonome drone die al bestaat, "hangen" in een doelgebied en het selecteren van sites om te raken.

Nog zorgwekkender zijn de nieuwe categorieën autonome wapens die nog niet bestaan ​​- dit kunnen gewapende minidrones zijn zoals die in de korte film 'Slaughterbots' uit 2017.

"Met dat soort wapen, je zou er een miljoen in een container- of vrachtvliegtuig kunnen sturen - zodat ze de vernietigende capaciteit van een atoombom hebben, maar alle gebouwen achterlaten, ' zei Russel.

Met behulp van gezichtsherkenningstechnologie, de drones kunnen "één etnische groep of één geslacht uitroeien, of met behulp van sociale media-informatie kun je alle mensen met een politieke mening wegvagen."

De Europese Unie heeft in april richtlijnen gepubliceerd voor hoe bedrijven en overheden AI, inclusief de noodzaak van menselijk toezicht, op niet-discriminerende wijze werken aan maatschappelijk en ecologisch welzijn, en met respect voor de privacy.

Russell betoogde dat het essentieel was om de volgende stap te zetten in de vorm van een internationaal verbod op dodelijke AI, dat kan worden samengevat als "machines die kunnen beslissen om mensen te doden, zullen niet worden ontwikkeld, ingezet, of gebruikt."

© 2019 AFP