Kunstmatige intelligentie (AI) heeft de afgelopen jaren inderdaad aanzienlijke vooruitgang geboekt, wat heeft geleid tot zorgen over de mogelijke bewapening ervan en de ontwikkeling van zogenaamde ‘killer-robots’. Deze zorgen zijn terecht en benadrukken het belang van het aanpakken van de ethische en maatschappelijke implicaties van AI-technologie voordat het te laat wordt.

Dit is waarom we zouden moeten overwegen om killer-robots te verbieden:

1. Onvoorspelbaarheid en gebrek aan menselijk oordeel:Killer-robots zouden, eenmaal ingezet, autonoom opereren zonder directe menselijke controle. Dit introduceert een element van onvoorspelbaarheid en neemt het kritische menselijke oordeel weg dat essentieel is bij het nemen van beslissingen over leven of dood op het slagveld. Fouten gemaakt door AI-systemen kunnen catastrofale gevolgen hebben.

2. Gebrek aan empathie en mededogen:AI-systemen missen van nature empathie en mededogen, wat cruciale menselijke eigenschappen zijn die de ethische besluitvorming sturen. Zonder deze kwaliteiten zouden killer-robots potentieel onnodige schade kunnen aanrichten of zich zonder onderscheid op individuen kunnen richten zonder rekening te houden met hun omstandigheden of bedoelingen.

3. Wapenwedloop en escalatie:De ontwikkeling en inzet van moordende robots zou een wapenwedloop tussen landen kunnen veroorzaken, wat tot een escalatie van conflicten zou kunnen leiden. Naarmate meer landen deze autonome wapensystemen verwerven en inzetten, neemt het risico op onbedoelde of toevallige conflicten exponentieel toe.

4. Proliferatie en toegankelijkheid:Killer-robots zouden, indien ontwikkeld, mogelijk in verkeerde handen kunnen vallen. Niet-statelijke actoren, terroristische groeperingen of schurkenstaten zouden toegang kunnen krijgen tot deze technologieën, wat een aanzienlijke bedreiging zou kunnen vormen voor de mondiale veiligheid en stabiliteit.

5. Ethische zorgen en mensenrechten:Het gebruik van moordende robots roept ernstige ethische zorgen op, waaronder de vervaging van de grenzen tussen de verantwoordelijkheid van mens en machine, de mogelijkheid van discriminatie of vooringenomenheid bij het richten, en de erosie van de menselijke waardigheid in oorlogsvoering.

6. Gevolgen op lange termijn:Het wijdverbreide gebruik van killer-robots zou kunnen leiden tot een toekomst waarin oorlogvoering volledig door machines wordt gevoerd, waardoor mensen verder worden gedistantieerd van de gevolgen van hun daden en het moeilijker wordt om conflicten op te lossen door middel van diplomatie en onderhandeling.

7. Internationaal recht en precedent:De ontwikkeling van killer-robots zou mogelijk in strijd kunnen zijn met bestaande internationale wetten die het voeren van oorlogvoering regelen, zoals de Conventies van Genève. Het instellen van een verbod op killer-robots zou het belang van het handhaven van deze wetten en het voorkomen van het gebruik van willekeurige en inhumane wapens versterken.

8. Een mondiaal precedent scheppen:Een proactieve aanpak door killer-robots te verbieden zou een precedent scheppen voor een verantwoorde ontwikkeling en gebruik van AI, waardoor andere landen zouden worden aangemoedigd dit voorbeeld te volgen en prioriteit te geven aan ethische overwegingen op het gebied van AI.

Het is van cruciaal belang voor overheden, beleidsmakers en technologiebedrijven om doordachte discussies aan te gaan, regelgeving vast te stellen en mogelijk killer-robots te verbieden om ervoor te zorgen dat AI wordt gebruikt ten behoeve van de mensheid en niet voor de vernietiging ervan.