Een grootschalig nieuw onderzoek ontwikkeld door MIT-onderzoekers onthult een aantal duidelijke wereldwijde voorkeuren met betrekking tot de ethiek van autonome voertuigen, evenals enkele regionale verschillen in die voorkeuren.

Het onderzoek heeft een wereldwijd bereik en een unieke schaal, met meer dan 2 miljoen online deelnemers uit meer dan 200 landen die wegen op versies van een klassiek ethisch raadsel, het "Trolleyprobleem". Het probleem betreft scenario's waarin een ongeval met een voertuig op handen is, en het voertuig moet kiezen voor een van de twee potentieel dodelijke opties. In het geval van auto's zonder bestuurder, dat kan betekenen uitwijken naar een paar mensen, in plaats van een grote groep omstanders.

"De studie probeert in feite het soort morele beslissingen te begrijpen waar auto's zonder bestuurder mogelijk hun toevlucht toe moeten nemen, " zegt Edmond Awad, een postdoc bij het MIT Media Lab en hoofdauteur van een nieuw artikel waarin de resultaten van het project worden geschetst. "We weten nog niet hoe ze dat moeten doen."

Nog altijd, Awad voegt toe, "We ontdekten dat er drie elementen zijn die mensen het meest lijken goed te keuren."

Inderdaad, de meest nadrukkelijke wereldwijde voorkeuren in het onderzoek zijn het sparen van het leven van mensen boven het leven van andere dieren; het leven van veel mensen sparen in plaats van een paar; en het behoud van het leven van de jongeren, in plaats van oudere mensen.

"De belangrijkste voorkeuren waren tot op zekere hoogte universeel overeengekomen, Awad merkt op. "Maar de mate waarin ze het hier wel of niet mee eens zijn, verschilt tussen verschillende groepen of landen." vonden de onderzoekers een minder uitgesproken neiging om jongere mensen te bevoordelen, in plaats van ouderen, in wat zij definieerden als een "oostelijk" cluster van landen, waaronder velen in Azië.

De krant, "Het morele machine-experiment, " wordt gepubliceerd in Natuur .

De auteurs zijn Awad; Sohan Dsouza, een promovendus in het Medialab; Richard Kim, een onderzoeksassistent in het Medialab; Jonathan Schulz, een postdoc aan de Harvard University; Joseph Hendrik, een professor aan Harvard; Azim Shariff, een universitair hoofddocent aan de Universiteit van British Columbia; Jean-François Bonnefon, een professor aan de Toulouse School of Economics; en Iyad Rahwan, een universitair hoofddocent mediakunsten en -wetenschappen bij het Media Lab.

Awad is een postdoc in de Scalable Cooperation-groep van het MIT Media Lab, die wordt geleid door Rahwan.

Om de enquête uit te voeren, ontwierpen de onderzoekers wat ze 'Morele Machine' noemen, " een meertalige online game waarin deelnemers hun voorkeuren konden aangeven met betrekking tot een reeks dilemma's waarmee autonome voertuigen te maken kunnen krijgen. Bijvoorbeeld:als het er echt op aankomt, moeten autonome voertuigen de levens van gezagsgetrouwe omstanders sparen, of, afwisselend, wetsovertredende voetgangers die misschien jaywalking zijn? (De meeste mensen in de enquête kozen voor het eerste.)

Alles verteld, "Moral Machine" verzamelde bijna 40 miljoen individuele beslissingen van respondenten in 233 landen; de enquête verzamelde 100 of meer reacties uit 130 landen. De onderzoekers analyseerden de gegevens als geheel, terwijl deelnemers ook worden opgedeeld in subgroepen die zijn gedefinieerd op basis van leeftijd, opleiding, geslacht, inkomen, en politieke en religieuze opvattingen. Er waren 491, 921 respondenten die demografische gegevens hebben aangeboden.

De geleerden vonden geen duidelijke verschillen in morele voorkeuren op basis van deze demografische kenmerken, maar ze vonden grotere 'clusters' van morele voorkeuren op basis van culturele en geografische voorkeuren. Ze definieerden "westerse, " "oostelijk, " en "zuidelijke" clusters van landen, en vond een aantal meer uitgesproken variaties langs deze lijnen. Bijvoorbeeld:respondenten in zuidelijke landen hadden een relatief sterkere neiging om sparende jongeren te verkiezen boven ouderen, vooral in vergelijking met de oostelijke cluster.

Awad suggests that acknowledgement of these types of preferences should be a basic part of informing public-sphere discussion of these issues. In all regions, since there is a moderate preference for sparing law-abiding bystanders rather than jaywalkers, knowing these preferences could, in theory, inform the way software is written to control autonomous vehicles.

"The question is whether these differences in preferences will matter in terms of people's adoption of the new technology when [vehicles] employ a specific rule, " he says.

Rahwan, for his part, notes that "public interest in the platform surpassed our wildest expectations, " allowing the researchers to conduct a survey that raised awareness about automation and ethics while also yielding specific public-opinion information.

"Aan de ene kant, we wanted to provide a simple way for the public to engage in an important societal discussion, " Rahwan says. "On the other hand, we wanted to collect data to identify which factors people think are important for autonomous cars to use in resolving ethical tradeoffs."

Beyond the results of the survey, Awad suggests, seeking public input about an issue of innovation and public safety should continue to become a larger part of the dialogue surrounding autonomous vehicles.

"What we have tried to do in this project, and what I would hope becomes more common, is to create public engagement in these sorts of decisions, " Awad says.