Een team van onderzoekers van de Universiteit van Hartford, de Universiteit van Connecticut, en het Max Planck Instituut voor Intelligente Systemen hebben onlangs een case-ondersteunde, op principes gebaseerd gedragsparadigma om het ethische gedrag van autonome machines te waarborgen. hun papier, gepubliceerd in Procedures van de IEEE , stelt dat ethisch significant gedrag van autonome systemen moet worden geleid door expliciete ethische principes, bepaald via een consensus van ethici.

"Dit jaar markeert de 50e verjaardag van de film 2001:Een ruimte-odyssee , "Michael Anderson, vertelde een van de onderzoekers die het onderzoek uitvoerden aan TechXplore. "Tijdens het lezen The Making of 2001:A Space Odyssey bij de eeuwwisseling, het viel me op dat veel van HAL's capaciteiten zijn sciencefiction-aura hadden verloren en op het punt stonden gerealiseerd te worden. Het viel me ook op dat ze de ethiek zo verkeerd hadden begrepen:als HAL om de hoek was, het was tijd om de ethiek goed te krijgen."

Anderson en zijn collega's hebben gewerkt aan het ontdekken van ethische principes die kunnen worden belichaamd in autonoom functionerende machines, als onderdeel van een project genaamd Machine Ethics. Ze zijn van mening dat het gedrag van kunstmatige intelligentie moet worden geleid door ethische principes. Deze principes, bepaald door een consensus van ethici, moet niet alleen helpen om het ethische gedrag van complexe en dynamische systemen te waarborgen, maar dienen ook als basis om dit gedrag te rechtvaardigen.

De onderzoekers ontwikkelden een uitbreidbaar, algemeen geval-ondersteund en op principes gebaseerd gedragsparadigma genaamd CPB. In dit paradigma, een autonoom systeem beslist over zijn volgende actie met behulp van een principe dat is geabstraheerd van gevallen waarvoor ethici het eens zijn geworden over de juiste actie die moet worden ondernomen.

"CPB gebruikt machinaal leren om een ​​principe van ethische voorkeur te abstraheren van ethisch relevante kenmerken van bepaalde gevallen van ethische dilemma's, waar de ethisch te verkiezen keuze duidelijk is, Anderson legde uit. "Een systeem kan dat principe gebruiken om op elk moment de ethisch wenselijke actie te bepalen."

Het paradigma vertegenwoordigt deze principes expliciet, zodat ze ook kunnen helpen om het handelen van een autonoom systeem te rechtvaardigen. Met andere woorden, CPB kan helpen om het gedrag van een robot beter te begrijpen, het aanbieden van logische verklaringen waarom het ervoor koos om op een bepaalde manier te handelen.

"Toen we probeerden te bepalen hoe de robot zou weten dat hij zich in een situatie bevond waarin zijn ethiek zou moeten beginnen, we realiseerden ons dat het altijd in zo'n staat was:ethiek gaat niet alleen over het niet kiezen van verkeerde acties, het gaat erom te kiezen welke van al zijn acties ethisch de voorkeur heeft in de gegeven situatie, Anderson zei. Gezien dit, Het CPB zet zich in om ethisch wenselijke acties te bepalen, ongeacht de situatie, en doet dat wanneer de situatie verandert."

Het uiteindelijke doel van het onderzoek was het vaststellen van ethisch relevante kenmerken en taken op het gebied van ouderenzorg, het identificeren van principes die het gedrag van robots voor ouderenzorg kunnen sturen. Echter, hetzelfde paradigma kan ook worden toegepast op robots die in andere domeinen actief zijn. In de toekomst, het kan ook ethische richtlijnen bieden voor andere systemen dan robots, zoals virtuele zorgverleners.

"Wij pleiten voor een prima facie plichtsbenadering van ethiek, waar een plicht een andere zou kunnen overheersen, afhankelijk van de situatie, Anderson zei. Met andere woorden, er is geen strikte hiërarchie zoals er is, zeggen, in de wetten van Asimov. In de toekomst, wij zijn van mening dat ons functie-/plichtvertegenwoordigingsschema nuttig zal zijn om de essentie van alle ethische dilemma's vast te leggen."

de bijdrage van Vincent Berenz aan het project, Speels, onlangs gepubliceerd in IEEE Robotica &Automatisering , maakt reactief en onderbreekbaar gedrag in robots mogelijk. Dergelijk gedrag is van cruciaal belang als de robot goed wil reageren op voortdurend veranderende ethische zorgen.

"Wij zijn van mening dat ethici een expertise verwerven die gepaard gaat met lang en diep nadenken over ethiek, Anderson zei. "We zeggen niet dat ze zich noodzakelijkerwijs zelf beter gedragen, ethisch zijn is voor iedereen moeilijk, maar dat ze beter begrijpen wat er moet gebeuren en beter in staat zijn om deze oordelen te verdedigen dan leken. Dergelijk zorgvuldig denken, toegepast op eenvoudige gevallen, kan nuttig zijn bij het nemen van beslissingen over moeilijkere gevallen die dezelfde ethisch relevante kenmerken vertonen."

In de toekomst, paradigma's zoals CPB kunnen ervoor zorgen dat robots en intelligente machines consequent ethische beslissingen nemen, terwijl het mensen ook in staat stelt hun keuzes beter te begrijpen. De onderzoekers werken nu aan het verbreden van hun werkterrein, om een ​​grotere verscheidenheid aan ethische problemen aan te pakken.

"We zijn van plan ons onderzoek uit te breiden, het toevoegen van meer acties en het overwegen van meer ethisch relevante kenmerken om een ​​ethisch principe te ontwikkelen dat kan worden gebruikt om het gedrag van alle toekomstige robots voor ouderenzorg te sturen, Anderson zei. "We zullen deze nieuwe ideeën testen op een PAL Robotics TIAGo-robot."

© 2018 Wetenschap X Netwerk