Mensen zullen altijd de uiteindelijke beslissing nemen of gewapende robots kunnen schieten, volgens een verklaring van het Amerikaanse ministerie van Defensie. Hun verduidelijking komt te midden van angst voor een nieuw geavanceerd targetingsysteem, bekend als ATLAS, die kunstmatige intelligentie in gevechtsvoertuigen zal gebruiken om bedreigingen aan te pakken en uit te voeren. Hoewel het publiek zich misschien ongemakkelijk voelt over zogenaamde "killer-robots", het concept is niets nieuws - met machinegeweren zwaaiende "ZWAARDEN" -robots werden al in 2007 in Irak ingezet.

Onze relatie met militaire robots gaat zelfs verder terug. Dit komt omdat wanneer mensen zeggen "robot, " ze kunnen elke technologie betekenen met een of andere vorm van "autonoom" element waarmee het een taak kan uitvoeren zonder dat directe menselijke tussenkomst nodig is.

Deze technologieën bestaan ​​al heel lang. Tijdens de Tweede Wereldoorlog, de nabijheidsontsteker is ontwikkeld om artilleriegranaten op een vooraf bepaalde afstand van hun doel te laten ontploffen. Dit maakte de granaten veel effectiever dan ze anders zouden zijn geweest door de menselijke besluitvorming te vergroten en, in sommige gevallen, de mens volledig uit de lus halen.

De vraag is dus niet zozeer of we autonome wapensystemen in de strijd moeten gebruiken - we gebruiken ze al, en ze nemen vele vormen aan. Liever, we moeten ons concentreren op hoe we ze gebruiken, waarom we ze gebruiken, en welke vorm – indien van toepassing – menselijk ingrijpen zou moeten aannemen.

De geboorte van cybernetica

Mijn onderzoek verkent de filosofie van mens-machine relaties, met bijzondere aandacht voor militaire ethiek, en de manier waarop we onderscheid maken tussen mensen en machines. Tijdens de Tweede Wereldoorlog, wiskundige Norbert Wiener legde de basis voor cybernetica - de studie van de interface tussen mensen, dieren en machines – in zijn werk over de beheersing van luchtafweergeschut. Door de afwijkingen tussen de voorspelde beweging van een vliegtuig te bestuderen, en zijn eigenlijke beweging, Wiener en zijn collega Julian Bigelow bedachten het concept van de "feedbackloop, " waar afwijkingen konden worden teruggekoppeld naar het systeem om verdere voorspellingen te corrigeren.

De theorie van Wiener ging daarom veel verder dan louter vergroting, voor cybernetische technologie zou kunnen worden gebruikt om menselijke beslissingen vooruit te lopen - de feilbare mens uit de lus te halen, om beter te maken, snellere beslissingen te nemen en wapensystemen effectiever te maken.

In de jaren na de Tweede Wereldoorlog, de computer is naar voren gekomen om naast de cybernetische theorie te gaan zitten om een ​​centrale pijler van het militaire denken te vormen, van de lasergestuurde "slimme bommen" uit het Vietnam-tijdperk tot kruisraketten en Reaper-drones.

Het is niet langer voldoende om de menselijke krijger alleen maar te vergroten zoals het in de begintijd was. De volgende fase is om de mens volledig te verwijderen - het "maximaliseren" van militaire resultaten en het minimaliseren van de politieke kosten die gepaard gaan met het verlies van geallieerde levens. Dit heeft geleid tot het wijdverbreide gebruik van militaire drones door de VS en zijn bondgenoten. Hoewel deze missies zeer controversieel zijn, in politiek opzicht bleken ze verreweg de voorkeur te verdienen boven de publieke verontwaardiging veroorzaakt door militaire doden.

De menselijke machine

Een van de meest controversiële kwesties met betrekking tot drone-oorlogsvoering is de rol van de dronepiloot of 'operator'. Zoals al het personeel, deze operators zijn door hun werkgevers verplicht om "goed werk te leveren". Echter, de voorwaarden voor succes zijn verre van duidelijk. Zoals filosoof en cultuurcriticus Laurie Calhoun opmerkt:"The business of UCAV [drone] operators is to kill."

Op deze manier, hun taak is niet zozeer om een ​​menselijke beslissing te nemen, maar om het werk te doen waarvoor ze zijn aangenomen. Als de computer zegt dat ze moeten doden, is er echt een reden waarom ze dat niet zouden moeten doen?

Een soortgelijk argument kan worden gemaakt met betrekking tot de moderne soldaat. Van GPS-navigatie tot video-uplinks, soldaten dragen talloze apparaten bij zich die ze verbinden met een enorm netwerk dat ze bij elke beurt controleert en bestuurt.

Dit leidt tot een ethisch raadsel. Als het doel van de soldaat is om bevelen naar de letter op te volgen - met camera's die worden gebruikt om naleving te waarborgen - waarom doen we dan überhaupt met menselijke soldaten? Ten slotte, machines zijn veel efficiënter dan mensen en lijden niet op dezelfde manier aan vermoeidheid en stress als mensen. Als van soldaten wordt verwacht dat ze zich programmatisch gedragen, toch robotachtige mode, wat heeft het dan voor zin om onnodig geallieerde bloed te vergieten?

Het antwoord, hier, is dat de mens dient als een alibi of vorm van 'ethische dekmantel' voor wat in werkelijkheid is, een bijna volledig mechanische, robot act. Net zoals het de taak van de drone-operator is om toezicht te houden op de computergestuurde drone, dus de rol van de mens in het nieuwe ATLAS-systeem van het Ministerie van Defensie is slechts om als ethische dekmantel te fungeren voor het geval er iets misgaat.

Hoewel Predator- en Reaper-drones in de voorhoede van de publieke verbeelding staan ​​over militaire autonomie en "moordenaarsrobots, "Deze innovaties zijn op zich niets nieuws. Ze zijn slechts de laatste in een lange reeks ontwikkelingen die vele decennia teruggaan.

Hoewel het sommige lezers gerust kan stellen dat de autonomie van machines altijd ondergeschikt zal zijn aan menselijke besluitvorming, dit slaat echt de plank mis. Autonome systemen zijn al lang ingebed in het leger en we moeten ons voorbereiden op de gevolgen.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.