Veel discussie en ethisch nadenken over zelfrijdende auto's hebben zich gericht op tragische dilemma's, zoals de hypothese waarin een auto moet beslissen of hij over een groep schoolkinderen heen rijdt of van een klif stort, het doden van zijn eigen bewoners. Maar dat soort situaties zijn extreme gevallen.

Als de meest recente crash – waarbij een zelfrijdende auto een voetganger in Tempe om het leven bracht, Arizona – demonstreert, het alledaagse, alledaagse situaties op elk zebrapad, bocht en kruising presenteren veel moeilijker en bredere ethische dilemma's.

Ethiek van uitersten

Als filosoof die samenwerkt met ingenieurs in Stanford's Center for Automotive Research, Ik was aanvankelijk verrast dat we onze labvergaderingen doorbrachten met het bespreken van wat ik een gemakkelijke vraag vond:hoe moet een zelfrijdende auto een zebrapad naderen?

Mijn veronderstelling was geweest dat we zouden nadenken over hoe een auto zou moeten beslissen tussen het leven van zijn passagiers en het leven van voetgangers. Ik wist hoe ik over dergelijke dilemma's moest nadenken omdat deze crashscenario's lijken op een beroemde filosofische hersenkraker die het 'trolleyprobleem' wordt genoemd. Stel je voor dat een op hol geslagen trolley over de rails slingert en vast en zeker een groep van vijf of een enkele persoon zal raken - zou je er een doden om er vijf te redden?

Echter, veel filosofen betwijfelen tegenwoordig dat het onderzoeken van dergelijke vragen een vruchtbare onderzoeksrichting is. Barbara Fried, een collega bij Stanford, bijvoorbeeld, heeft betoogd dat tragische dilemma's mensen doen geloven dat ethische dilemma's zich meestal voordoen in extreme en moeilijke omstandigheden.

In feite, ethische dilemma's zijn alomtegenwoordig. Elke dag, alledaagse situaties zijn verrassend rommelig en complex, vaak op subtiele manieren. Bijvoorbeeld:Moet uw stad geld uitgeven aan een diabetespreventieprogramma of aan meer maatschappelijk werkers? Mocht uw plaatselijke ministerie van Volksgezondheid een andere inspecteur voor restauranthygiënenormen inhuren, of doorgaan met een programma met gratis naalden en injectiebenodigdheden?

Deze vragen zijn uiterst moeilijk te beantwoorden vanwege onzekerheden over de gevolgen, zoals wie er geraakt wordt en in welke mate. De oplossingen die filosofen hebben voorgesteld voor extreme en wanhopige situaties helpen hier weinig.

Het probleem is vergelijkbaar met zelfrijdende auto's. Het doordenken van extreme situaties en crashscenario's kan niet helpen bij het beantwoorden van vragen die zich voordoen in alledaagse situaties.

Een uitdaging op zebrapaden

Men zou kunnen vragen, wat kan er zo moeilijk zijn aan alledaagse verkeerssituaties zoals het naderen van een zebrapad, over een kruispunt rijden, of het maken van een bocht naar links. Zelfs als het zicht op het zebrapad beperkt is en het soms moeilijk te zeggen is of een voetganger in de buurt daadwerkelijk de straat wil oversteken, chauffeurs hebben hier dagelijks mee te maken.

Maar voor zelfrijdende auto's zulke alledaagse situaties vormen op twee manieren een uitdaging.

Eerst, er is het feit dat wat gemakkelijk is voor mensen, vaak moeilijk is voor machines. Of het nu gaat om gezichten herkennen of fietsen, we zijn goed in perceptie en mechanische taken omdat evolutie deze vaardigheden voor ons heeft gebouwd. Dat, echter, maakt deze vaardigheden moeilijk te onderwijzen of te engineeren. Dit staat bekend als "Moravec's Paradox."

Tweede, in een toekomst waarin alle auto's zelfrijdende auto's zijn, kleine veranderingen in het rijgedrag zouden al met al een groot verschil maken. Beslissingen die vandaag door ingenieurs worden genomen, met andere woorden, zal niet bepalen hoe één auto rijdt, maar hoe alle auto's rijden. Algoritmen worden beleid.

Ingenieurs leren computers hoe ze gezichten en objecten kunnen herkennen met behulp van machine learning. Ze kunnen machine learning ook gebruiken om zelfrijdende auto's te helpen na te bootsen hoe mensen rijden. Maar dit is geen oplossing:het lost niet het probleem op dat veelomvattende beslissingen over veiligheid en mobiliteit door ingenieurs worden genomen.

Verder, zelfrijdende auto's horen niet als mensen te rijden. Mensen zijn eigenlijk geen goede chauffeurs. En ze rijden op ethisch verontrustende manieren, beslissen of je moet toegeven op zebrapaden, op basis van de leeftijd van voetgangers, ras en inkomen. Bijvoorbeeld, Onderzoekers in Portland hebben ontdekt dat zwarte voetgangers twee keer zoveel auto's passeren en een derde langer moeten wachten dan blanke voetgangers voordat ze kunnen oversteken.

Zelfrijdende auto's moeten veiliger rijden, en eerlijker dan mensen.

wereldse ethiek

De ethische problemen verdiepen zich wanneer je aandacht besteedt aan de belangenconflicten die aan de oppervlakte komen in alledaagse situaties zoals zebrapaden, bochten en kruispunten.

Bijvoorbeeld, bij het ontwerp van zelfrijdende auto's moet een evenwicht worden gevonden tussen de veiligheid van anderen - voetgangers of fietsers - en de belangen van de passagiers van auto's. Zodra een auto sneller gaat dan stapvoets, het kan niet voorkomen dat het tegen een kind botst dat in de laatste seconde de weg op zou kunnen rennen. Maar looptempo is natuurlijk, veel te langzaam. Iedereen moet op plekken komen. Dus hoe moeten ingenieurs de balans vinden tussen veiligheid en mobiliteit? En welke snelheid is veilig genoeg?

Er zijn ook andere ethische vragen die naar voren komen. Ingenieurs moeten afwegingen maken tussen mobiliteit en milieueffecten. Als ze worden toegepast op alle auto's in het land, kleine veranderingen in computergestuurde acceleratie, bochten en remmen kunnen enorme effecten hebben op het energieverbruik en de uitstoot van vervuilende stoffen. Hoe moeten ingenieurs reisefficiëntie afwegen tegen impact op het milieu?

Wat moet de toekomst van het verkeer zijn?

Alledaagse situaties brengen nieuwe technische en ethische problemen met zich mee, maar ze leiden er ook toe dat mensen de basisveronderstellingen van het verkeerssysteem in twijfel trekken.

Voor mijzelf, Ik begon me af te vragen of we plaatsen nodig hebben die 'oversteekplaatsen' worden genoemd? Ten slotte, zelfrijdende auto's kunnen het mogelijk maken om overal veilig een weg over te steken.

En het zijn niet alleen zebrapaden die overbodig worden. Ook verkeerslichten op kruispunten zouden tot het verleden kunnen behoren. Mensen hebben verkeerslichten nodig om ervoor te zorgen dat iedereen het kruispunt kan oversteken zonder ongelukken en chaos. Maar zelfrijdende auto's konden onderling vlot coördineren.

De grotere vraag hier is deze:aangezien zelfrijdende auto's beter zijn dan menselijke bestuurders, waarom zouden de auto's onderworpen zijn aan regels die zijn ontworpen voor menselijke feilbaarheid en menselijke fouten? En om dit gedachte-experiment uit te breiden, denk ook eens na over de meer algemene vraag:als we, als samenleving, ons verkeerssysteem helemaal opnieuw kunnen ontwerpen, hoe zouden we willen dat het eruit ziet?

Omdat deze moeilijke vragen iedereen in een stad of in een samenleving aangaan, ze vereisen dat een stad of samenleving het eens wordt over antwoorden. Dat betekent een afweging maken tussen concurrerende belangen op een manier die voor iedereen werkt - of mensen nu alleen denken aan zebrapaden of aan het verkeerssysteem als geheel.

Met zelfrijdende auto's, samenlevingen kunnen hun verkeerssystemen opnieuw ontwerpen. Van het zebrapad tot het algehele verkeersontwerp - het zijn alledaagse situaties die echt moeilijke vragen oproepen. Extreme situaties zijn een afleiding.

Het trolleyprobleem geeft geen antwoord op deze moeilijke vragen.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.