Op 19 maart, een zelfrijdend voertuig van Uber dat in Arizona werd getest, sloeg en doodde Elaine Herzberg, die met haar fiets over straat liep. Dit is de eerste keer dat een zelfrijdend voertuig een voetganger doodt. en het roept vragen op over de ethiek van het ontwikkelen en testen van opkomende technologieën. Sommige antwoorden zullen moeten wachten tot het volledige onderzoek is afgerond. Toch, Nicolaas Evans, een professor filosofie aan de Universiteit van Massachusetts-Lowell die de ethiek van de besluitvormingsprocessen van autonome voertuigen bestudeert, zegt dat sommige vragen nu kunnen worden beantwoord.

1. Had een menselijke bestuurder deze crash kunnen vermijden?

Waarschijnlijk. Het is gemakkelijk om te denken dat de meeste mensen moeite zouden hebben om een ​​voetganger 's nachts een weg te zien oversteken. Maar wat al duidelijk is over deze specifieke gebeurtenis, is dat de weg niet zo donker was als de plaatselijke politiechef aanvankelijk beweerde.

De chef zei oorspronkelijk ook dat Herzberg plotseling voor de auto in het verkeer stapte. Echter, de verontrustende en alarmerende videobeelden die zijn vrijgegeven door Uber en de lokale autoriteiten laten zien dat dit niet waar is:Herzberg was al over een rijstrook van de tweebaansweg gelopen, en was bezig de weg over te steken toen de Uber haar aanreed. (De veiligheidschauffeur merkte de voetganger ook niet op, maar video suggereert dat de bestuurder naar beneden keek, niet door de voorruit.)

Een normale menselijke bestuurder, iemand die actief op de weg let, zou waarschijnlijk weinig problemen hebben gehad om Herzberg te vermijden:met koplampen aan tijdens het rijden van 40 mph op een eigenlijk donkere weg, het is niet moeilijk om obstakels op een rechte weg te vermijden als ze 100 of meer voet vooruit zijn, inclusief mensen of dieren in het wild die proberen over te steken. Deze crash was te vermijden.

Een tragische implicatie van dat feit is duidelijk:een zelfrijdende auto heeft een persoon gedood. Maar er is ook een publieke betekenis. Deze ene Uber-auto reed in ieder geval zelf door bevolkte straten terwijl hij niet in staat was de cruciale veiligheidstaak uit te voeren, namelijk het detecteren van een voetganger. en remmen of sturen om de persoon niet te raken.

Na de dood van Herzberg, de veiligheid en betrouwbaarheid van de zelfrijdende auto's van Uber is in twijfel getrokken. Het is ook de moeite waard om de ethiek te onderzoeken:net zoals Uber is bekritiseerd omdat het zijn drijfveren voor winst uitbuit, het bedrijf mogelijk misbruik maakt van het rijden, paardrijden en wandelen publiek voor eigen onderzoeksdoeleinden.

2. Zelfs als deze crash te vermijden was, zijn zelfrijdende auto's over het algemeen nog steeds veiliger dan door mensen bestuurde auto's?

Nog niet. Het dodental op de Amerikaanse wegen is inderdaad alarmerend:ongeveer 32, 000 doden per jaar. De federale schatting is dat 1,18 mensen sterven per 100 miljoen door mensen gereden kilometers. Uber's auto's reden maar 3 miljoen mijl, echter, voor hun eerste dodelijke afloop. Het is niet eerlijk om statistische analyses uit te voeren vanuit één enkel gegevenspunt, maar het is geen goed begin:bedrijven moeten ernaar streven hun robots minstens zo goed te maken als mensen, als de belofte om aanzienlijk beter te zijn nog niet wordt nagekomen.

Zelfs als de autonome auto's van Uber betere chauffeurs waren, de cijfers vertellen niet het hele verhaal. Van de 32, 000 mensen die elk jaar op de Amerikaanse wegen sterven, 5, 000 tot 6, 000 zijn voetgangers. Bij het streven naar verbeteringen op het gebied van veiligheid, moet het doel zijn om het totale aantal sterfgevallen te verminderen - of om speciale nadruk te leggen op de bescherming van de meest kwetsbare slachtoffers? Het is hypothetisch zeker mogelijk om een ​​zelfrijdend autosysteem voor te stellen dat het totale aantal verkeersdoden halveert - tot 16, 000 – terwijl het sterftecijfer onder voetgangers wordt verdubbeld – tot 12, 000. Over het geheel genomen dat lijkt misschien veel beter dan menselijke chauffeurs - maar niet vanuit het perspectief van mensen die langs de nationale wegen lopen!

Mijn onderzoeksgroep heeft gewerkt aan het ontwikkelen van ethische beslissingskaders voor zelfrijdende auto's. Een mogelijke benadering wordt 'maximin' genoemd. Het meest fundamenteel, die manier van denken suggereert dat mensen die autonome voertuigen ontwerpen - zowel fysiek als in termen van software die ze bestuurt - de slechtst mogelijke resultaten van elke beslissing moeten identificeren, ook al is het zeldzaam, en werken om hun effecten te minimaliseren. Iedereen die ongelukkig genoeg is geraakt door een auto, zowel als voetganger als in een voertuig, weet dat te voet veel erger is. onder maximin, mensen moeten auto's ontwerpen en testen, onder andere, om de veiligheid van voetgangers voorop te stellen.

Maximin is waarschijnlijk niet de best mogelijke – en zeker niet de enige – morele beslissingstheorie die kan worden gebruikt. In sommige gevallen, het slechtste resultaat kan worden vermeden als een auto nooit van zijn oprit komt! Maar maximin geeft stof tot nadenken over de integratie van zelfrijdende auto's in het dagelijks leven. Zelfs als autonome auto's altijd als veiliger worden beoordeeld dan mensen, wat telt als "veiliger" is heel belangrijk.

3. Hoeveel beter moeten zelfrijdende auto's zijn dan mensen voordat het publiek ze accepteert?

Zelfs als mensen het eens zouden kunnen worden over de manieren waarop zelfrijdende auto's veiliger moeten zijn dan mensen, het is niet duidelijk dat mensen het goed zouden moeten vinden met zelfrijdende auto's als ze voor het eerst nauwelijks beter worden dan mensen. Als iets, dat is wanneer de tests in de straten van de stad moeten beginnen.

Overweeg een nieuw medicijn dat is ontwikkeld door een farmaceutisch bedrijf. Het bedrijf kan het niet op de markt brengen zodra bewezen is dat het geen mensen vermoordt die het nemen. Liever, het medicijn moet een reeks tests doorlopen die bewijzen dat het effectief is bij het behandelen van het symptoom of de aandoening waarvoor het bedoeld is. Meer en meer, drugstests proberen te bewijzen dat een medicijn aanzienlijk beter is dan wat er al op de markt is. Mensen mogen hetzelfde verwachten van zelfrijdende auto's voordat bedrijven het publiek in gevaar brengen.

De crash in Arizona was niet alleen een tragedie. Het niet zien van een voetganger bij weinig licht was een vermijdbare basisfout voor een zelfrijdende auto. Autonome voertuigen moeten veel meer kunnen dan dat voordat ze mogen rijden, zelfs bij testen, op de openbare weg. Net als farmaceutische bedrijven, enorme technologiebedrijven zouden verplicht moeten worden om hun systemen grondig - en ethisch - te testen voordat hun zelfrijdende auto's het publiek dienen of in gevaar brengen.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.