Dodelijke autonome wapensystemen vereisen zorgvuldige overweging, maar nachtmerriescenario's van de toekomst zullen niet snel werkelijkheid worden, zegt een militaire ethicus van UNSW Canberra.

De term 'moordenaarsrobots' roept beelden op van sci-fi-scenario's waarin oorlogen worden uitgevochten door Terminator-achtige soldaten, maar volgens UNSW Canberra-militair ethicus Deane-Peter Baker is het niet zo eng of filmisch.

Moordende robots of dodelijke autonome wapensystemen (LAWS) kunnen zelfs levens redden op het slagveld.

Het nieuwste boek van universitair hoofddocent Baker, "Should we Ban Killer Robots?", is gebaseerd op zijn ervaring in het International Panel on the Regulation of Autonomous Weapons (IPRAW) van 2017-19.

IPRAW is een internationaal netwerk van onderzoekers die de taak hebben onpartijdige begeleiding te bieden aan de nationale delegaties die betrokken zijn bij het VN-debat over het al dan niet verbieden of reguleren van WETTEN.

"Dit boek is mijn poging om mijn opvattingen over dit onderwerp samen te brengen, die zijn voortgekomen uit mijn tijd als IPRAW-panellid en ander daaropvolgend beleidsgericht werk over dit onderwerp," A/Prof. zei Baker.

Hij legde uit dat er twee hoofdargumenten zijn om WETTEN te verbieden. De ene richt zich op de mogelijke gevolgen van het toestaan ​​van het gebruik van WETTEN in oorlog.

"Tegenstanders zijn bijvoorbeeld bezorgd dat LAWS niet in staat zal zijn om te opereren binnen de grenzen van het recht van gewapende conflicten", aldus A/Prof. zei Baker.

"De zorg hier is dat ze geweld zullen gebruiken op een willekeurige of onevenredige manier.

"Het andere belangrijke type argument is dat, afgezien van de gevolgen, het gewoon fundamenteel verkeerd is om een ​​machine de keuze te laten maken om een ​​mens te doden."

Volgens A/Prof. Baker, minder ontwikkelde staten zijn meestal voorstander van een verbod, terwijl machtige en technologisch geavanceerde staten niet bijzonder ondersteunend zijn.

"Voorstanders van LAWS beweren dat deze systemen op verschillende manieren levens kunnen redden", zei hij.

"Er is bijvoorbeeld de bewering dat robots kunnen worden gestuurd om 'saaie, gevaarlijke en vuile' banen te doen zonder een menselijke soldaat, matroos of vliegenier te hoeven riskeren - veel beter voor een machine om vernietigd te worden dan voor een lid van de gewapende troepen worden gedood of verminkt.

"The other main type of argument is that, consequences aside, it's simply fundamentally wrong to allow a machine to make the choice to kill a human being."

"They also argue that LAWS will be less prone to using indiscriminate force, because they don't get scared, angry or confused in the way that human combatants can in the midst of combat."

A/Prof. Baker said there is also the argument that an international ban will not prevent malign actors from developing and using these systems, so we should not hand them a significant operational advantage by adopting a ban and disallowing ourselves from using them.

So, will we find ourselves in that Terminator situation any time soon?

"We're a long way from that happening, if indeed it ever does!" A/Prof. Baker assured.

"I think there's no doubt that we will start to see more and more lethal autonomous weapons participating in wars—the UN believes we have already seen the first humans to be killed by autonomous weapons, in the Yemen conflict. But it's my view that they will be unlikely to play much more than a supplementary role for some time to come."

In the medium term, he said highly sophisticated systems will be very expensive and therefore rare, while simple autonomous systems will be constrained by limited capability.

"Over the longer term we will start to see more sophisticated systems becoming more affordable and therefore more prolific, and the simpler systems will themselves become more capable," A/Prof. Baker said.

He hopes that readers of the book will come away with a clearer understanding of the arguments that have been raised in favor of a ban on killer robots.

"Even if they don't agree with my conclusion, hopefully their thinking will have been challenged and their views sharpened in the process."