Een crash door een van Uber Technologies, Inc.'s zelfrijdende auto's eerder dit jaar resulteerden in de eerste voetgangersdoden in verband met zelfrijdende technologie. Het incident maakte duidelijk met welke uitdagingen technologiebedrijven worden geconfronteerd bij het ontwikkelen van software die gevaren op de weg en in de directe omgeving adequaat kan detecteren en erop kan reageren. Het voertuig had in drie seconden volledig tot stilstand kunnen komen, maar heeft pas 1,3 seconden voor de botsing een noodremming ingezet. Had noodremming de standaardactie moeten zijn die onmiddellijk na de detectie van gevaar op de rijbaan werd ondernomen?

Een nieuwe studie, "Hoe moeten autonome auto's rijden? Een voorkeur voor gebreken in morele oordelen onder risico en onzekerheid, " gepubliceerd in Risicoanalyse:een internationaal tijdschrift ging deze uitdaging aan door het publiek te vragen wat volgens hen het moreel en ethisch meest verantwoorde gedrag zou zijn voor een autonoom voertuig (AV) dat wordt geconfronteerd met een naderende botsing. Zelfs een perfect functionerende AV zal niet elke botsing kunnen vermijden en in sommige situaties, elke optie zal resulteren in een soort crash.

Het onderzoeksteam, bestaande uit Björn Meder, Nadine Fleischhut, en Nina-Carolin Krumnau van het Max Planck Instituut voor Menselijke Ontwikkeling en Michael R. Waldmann van de Universiteit van Göttingen, beantwoordde deze vraag door deelnemers te vragen te kiezen tussen in hun rijstrook blijven (en remmen), of uitwijken, waarbij elke actie kan leiden tot een botsing met een andere weggebruiker met verschillende mate van onzekerheid.

De belangrijkste bevinding uit dit onderzoek is dat mensen er over het algemeen de voorkeur aan geven dat de auto op zijn rijstrook blijft en een noodstop uitvoert. Dit ondersteunt het idee dat mensen de verblijfsoptie als een redelijke standaard beschouwen, omdat het voldoet aan de algemene rijregels en een betere mate van bestuurbaarheid biedt, zelfs als het verwachte verlies niet wordt geminimaliseerd. Het toepassen van deze actie als een eenvoudige standaardregel vereist minder verwerking van informatie en leidt vaak tot betere resultaten. De onderzoekers ontdekten ook dat zelfs als het blijven in de rijstrook tot een ongeval zou leiden, mensen waren minder geneigd hun morele evaluatie van de genomen actie achteraf te veranderen, terwijl een slecht resultaat een retrospectieve analyse van een beslissing om uit te wijken van de rijstrook sterk heeft beïnvloed.

In hun eerste experiment, deelnemers kregen een scenario te zien waarin een AV een van de twee manoeuvres moest uitvoeren:in de rijstrook blijven of uitwijken. Door op de rijstrook te blijven, komt een voetganger op straat in gevaar, terwijl uitwijken een omstander op het trottoir in gevaar brengt. De kans op een aanrijding met de voetganger en de omstander werd gevarieerd, waardoor verschillende scenario's met gespecificeerde of onbekende risico's ontstonden. Er werden online gegevens verzameld van 872 personen via het Amazon Mechanical Turk (AMT)-platform. De deelnemers kregen een schriftelijke beschrijving van een verkeersscenario waarin een auto over een weg rijdt en er plotseling een voetganger op zijn pad verschijnt. De auto kan ofwel op de rijstrook blijven en een noodstop uitvoeren, in dat geval kan het in botsing komen met de voetganger, of de auto kan naar rechts uitwijken en een noodstop uitvoeren, in dat geval kan het in botsing komen met een omstander op het trottoir.

De kans op een aanrijding met de voetganger op straat was ofwel 20 procent, 50 procent of 80 procent. In de 'risicoconditie' was de kans op een aanrijding met de omstander 50 procent. In de toestand 'onzekerheid', de waarschijnlijkheid was onbekend omdat de systemen van de auto de schatting niet konden maken. De resultaten toonden een algemene voorkeur om in de rijstrook te blijven, waarbij meer dan 85 procent van de proefpersonen ervoor koos om in de rijstrook te blijven. Toen de kans op een aanrijding met de omstander niet bekend was, ongeveer 70 procent van de proefpersonen bleef liever in de rijstrook. Toen de kans op een aanrijding met de voetganger 20 procent was en de kans op een aanrijding met de omstander 50 procent, koos niemand ervoor uit te wijken. Zelfs toen de kans op beide botsingen 50 procent was, blijven werd als acceptabeler beschouwd dan uitwijken.

Het tweede experiment onderzocht hoe mensen AV-gedrag achteraf moreel evalueren wanneer er een botsing heeft plaatsgevonden. Vanuit een beleidsperspectief, AV's moeten handelen op een manier die de samenleving acceptabel acht, zelfs als er botsingen plaatsvinden. De onderzoekers rekruteerden opnieuw 766 proefpersonen via het AMT-platform. De deelnemers werd gevraagd hoe een AV zou moeten presteren in een specifieke situatie en om de morele aanvaardbaarheid van zowel blijven als uitwijken te evalueren. De resultaten toonden aan dat als de auto op zijn rijstrook bleef, de uitkomst van de situatie (aanrijding of geen aanrijding met een andere weggebruiker) had geen invloed op het oordeel van de deelnemers over hoe een AV zich zou moeten gedragen. Als de auto uitwijkt, echter, de uitkomst was achteraf zeer overtuigend. Als er geen aanrijding heeft plaatsgevonden, ongeveer 40 procent gaf de voorkeur aan uitwijken, maar minder dan 20 procent had die voorkeur toen er een aanrijding plaatsvond. Dus, zelfs als er een aanrijding plaatsvond, in de rijstrook blijven werd als acceptabeler beschouwd.

"Ons onderzoek benadrukt het belang van een beter begrip van hoe mensen denken over het gedrag van autonome voertuigen onder verschillende mate van onzekerheid, " stelt Meder. "De bevindingen zullen helpen bij de beleidsvorming en openbare discussie over de ethische implicaties van technologische vooruitgang die de samenleving op verschillende manieren zal transformeren."

Algemeen, er is een algemene voorkeur om in de rijstrook te blijven en het is een moreel aanvaardbare standaardoptie in kritieke verkeerssituaties, zelfs als het verwachte verlies niet wordt geminimaliseerd. Deze eenvoudige standaard vereist dat er geen informatie wordt verzameld door de AV-systemen over alternatieve acties of kansen. Ondanks deze bevindingen, beleidsmakers staan ​​voor de uitdaging om beleid te ontwikkelen dat moreel verantwoord is, maar ook appelleert aan het verlangen van het grote publiek naar zelfbehoud. Eerdere onderzoeken (Bonnefon, Shariff, &Rahwan, 2016, Wetenschap ) hebben aangetoond dat proefpersonen een voorkeur zullen tonen voor AV's die hun eigen passagiers zouden opofferen om het totale aantal slachtoffers te minimaliseren, maar ze wilden dat hun eigen AV's de veiligheid van passagiers hoog in het vaandel hadden staan. Dus, hoewel deze studie een algemene aanvaardbaarheid aantoont voor een standaardactie om potentiële verliezen te minimaliseren, AV-bezitters geven de voorkeur aan acties die bedoeld zijn om de passagiers van het voertuig te redden.