Stel je voor dat een ultramoderne auto zonder bestuurder over een weg raast met een gehandicapte 90-jarige passagier. Een jonge moeder met een peuter stapt de weg op. De auto moet een beslissing nemen:de moeder en het kind inrijden en ze doden, of tegen een muur oprijden en de passagier doden.

Dit is een variant van het trolleyprobleem, die het academische en populaire denken over de ethiek van auto's zonder bestuurder domineert. Het probleem is dat dergelijke debatten niet alleen de complexiteit van het systeem waarin auto's zonder bestuurder zullen bestaan, afwijzen, maar zijn echt morele rode haring. De echte ethische kwesties liggen in de politiek en machtsproblemen met auto's zonder bestuurder.

Overheden over de hele wereld hebben grote belangstelling voor auto's zonder bestuurder. De Duitse regering heeft ethische richtlijnen opgesteld voor zelfrijdende auto's. De Britse regering heeft beloofd dat er in 2021 zelfrijdende auto's op de weg zullen zijn. en de Russische regering tegen eind 2018. China heeft ambitieuze plannen om tegen 2025 zelfrijdende auto's met internet te verbinden en sensoren in wegen en verkeerslichten te installeren.

Het meest onthullend is de manier waarop auto's zonder bestuurder voorkomen in het witboek van de EU over de toekomst van Europa in 2025, gepubliceerd in maart 2017. Ze vormen een veelzeggend onderdeel van een momentopname van hoe Europa eruit zou kunnen zien in een toekomst waarin EU-landen zich effectief hebben verenigd om één federale superstaat te worden. In dit scenario, het witboek zegt, auto's zonder bestuurder zullen bloeien, ongehinderd over de grens van stad naar stad flitsen.

Er is een reden waarom regeringen zo gek zijn op auto's zonder bestuurder – en dat is niet alleen vanwege de potentiële economische voordelen. Ze bieden de kans op een nog betere tracking en zelfs controle over elke beweging van burgers. Verre van ons te bevrijden, auto's zonder bestuurder dreigen nieuwe vormen van toezicht en onderdrukking mogelijk te maken.

Een auto zonder bestuurder is een computer op wielen, het ultieme mobiele apparaat met internetverbinding. Boordevol sensoren, het zorgt voor een constante tweerichtingsstroom van informatie. De auto stuurt informatie over zijn prestaties naar de fabrikant. Het ontvangt software-updates, controlesignalen over aanpassingen van zijn gedrag. De fabrikant weet waar de auto is, wat de wegomstandigheden en temperatuur zijn en hoe het voertuig presteert bij een bepaalde snelheid.

De verzekeraar van de auto kan van minuut tot minuut informatie ontvangen over de staat van de auto, plaats, snelheid en de staat van de weg, en kan de verzekering dienovereenkomstig aanpassen. Het kan zelfs tien minuten waarschuwen voor dekkingsverlies en de auto tot stilstand brengen.

In de tussentijd, overheidsdatabases zullen waarschijnlijk ook weten waar de auto is, of het bedoeld is om daar te zijn en waar het naartoe gaat. En zelfs, voorspellende analyses gebruiken, waar het zal gaan voor zijn volgende reis. Slimme snelwegen zullen verkeersstromen beheren, het vertragen van auto's zonder bestuurder als onderdeel van een stroom van communicatie tussen de auto en de weg. In slimme steden, verkeerslichten zullen auto's omleiden naar omleidingen op basis van berekeningen en voorspellingen over files, wegwerkzaamheden, of staatseisen.

Markten in snelle routes door steden en naar centrale bestemmingen kunnen worden gecreëerd. Bedrijven kunnen betalen voor werknemers om virtuele routes met prioriteit te gebruiken. Reisverslagen kunnen heel duidelijk maken waar je bent geweest en wanneer. Redenen voor uw reis kunnen voorspelbaar worden afgeleid uit het landschap, van bestemmingen en van timing.

Einde autonomie

Al meer dan 130 jaar auto's vertegenwoordigen de ultieme autonomie, individualiteit en democratische vrijheid. Onze autoritten zijn privé en anoniem. We kunnen gaan waar we willen en wanneer we willen. We hoeven het aan niemand te vertellen. En we behouden de verantwoordelijkheid of we de wet gehoorzamen. Zelfrijdende auto's maken daar een einde aan.

Nu fabrikanten, overheden en stadsautoriteiten zullen weten waar we heen gaan, wat we doen en wanneer. Als iemand het niet leuk vindt wat we doen, ze zullen ons kunnen stoppen, intrekken technische en ongevallendekking, ons tegenhouden om bepaalde wegen of straten te gebruiken, of sluit ons gewoon af. Het zal niet de auto zijn die autonoom is, maar de autoriteiten en systemen die die auto besturen en onderhouden, die informatie van en naar de auto trekken en verzenden.

Auto's zonder bestuurder zullen een nieuw tijdperk van burgercontrole inluiden. In de retoriek om ons veiliger te maken en risico's te verminderen, macht zal worden afgenomen en geleverd aan centrale autoriteiten – of het nu steden, regeringen of commissies. Om ons veilig te stellen, regeringen zullen ons machteloos laten.

Nu kunnen de verkeersleiders onze route eenvoudig wijzigen voor hun eigen doeleinden, of het nu gaat om het voorkomen van files of het vrijmaken van een route voor een hoogwaardigheidsbekleder. Nu kunnen ze ons naar bepaalde winkels sturen, of direct naar een politiebureau. Nu kunnen de controleurs het aantal auto's beheren om te voldoen aan de doelstellingen van de gemeente of de regering.

In een democratische staat, de groeiende stroom van gepersonaliseerde informatie naar de gecentraliseerde autoriteit zal de basis vormen voor de regulering en handhaving. De nieuwe beheerde burgers zullen het doelwit zijn van gedrags-nudges en advertenties die in de zelfrijdende auto stromen. In de dictatoriale staat de autoriteiten kunnen u verbieden naar een demonstratie te gaan, of stop met naar de kerk gaan.

En dergelijke centraal beheerde systemen, die essentieel zijn voor de veiligheid van zelfrijdende auto's, staan ​​niet alleen open voor de onvermijdelijke technologische mislukkingen van complexe systemen, maar ook voor hacking en aanvallen door andere staten en individuen. Waarom inbreken in één auto, wanneer je een heel stadssysteem kunt hacken en het verkeer tot stilstand kunt brengen, of crash 30, 000 auto's in elkaar?

Bij het nadenken over de ethiek van auto's zonder bestuurder moeten we verder gaan dan de beperkingen van trolleys en hendels naar een bredere agenda die de concepten van autonomie, gemeenschap, transparantie, identiteit, waarde en empathie. Ons ethisch debat moet de machtsverschuivingen aanpakken, de politieke verantwoordelijkheden en de mensenrechten die onze visie op zelfrijdende auto's misschien moet opofferen.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.