Eind 2019 reed de auto van Kevin George Aziz Riad van een snelweg in Californië, reed door rood en botste tegen een andere auto, waarbij de twee mensen binnenin omkwamen. De auto van Riad, een Tesla Model S, stond op de automatische piloot.

Eerder dit jaar hebben de aanklagers van Los Angeles County twee aanklachten ingediend voor doodslag door een voertuig tegen Riad, nu 27, en de zaak markeert de eerste misdrijfvervolging in de VS van een dodelijk auto-ongeluk waarbij een rijhulpsysteem betrokken was. Het is ook de eerste strafrechtelijke vervolging van een crash met de Autopilot-functie van Tesla, die wordt aangetroffen op meer dan 750.000 auto's in de VS. Ondertussen spant de familie van de slachtoffers van de crash civiele procedures aan tegen zowel Riad als Tesla.

Tesla maakt zorgvuldig onderscheid tussen zijn Autopilot-functie en een auto zonder bestuurder, en vergelijkt zijn rijhulpsysteem met de technologie die vliegtuigpiloten gebruiken wanneer de omstandigheden duidelijk zijn. "Tesla Autopilot verlost bestuurders van de meest vervelende en potentieel gevaarlijke aspecten van het reizen over de weg", zegt Tesla online. "We bouwen Autopilot om u meer vertrouwen achter het stuur te geven, uw veiligheid op de weg te vergroten en het rijden op de snelweg aangenamer te maken... De bestuurder is nog steeds verantwoordelijk voor en heeft uiteindelijk de controle over de auto."

De fabrikant van elektrische voertuigen legt de verantwoordelijkheid voor veiligheid duidelijk bij de bestuurder, maar onderzoek suggereert dat mensen vatbaar zijn voor vooringenomenheid in de automatisering, een te grote afhankelijkheid van geautomatiseerde hulpmiddelen en beslissingsondersteunende systemen. Nu is het aan de rechter om te beslissen wie schuldig is wanneer het gebruik van die systemen tot fatale fouten leidt.

Momenteel is Riad op borgtocht vrij en pleit hij niet schuldig aan doodslag. NYU News sprak met Mark Geistfeld – NYU Law Sheila Lubetsky Birnbaum Professor of Civil Litigation en de auteur van de California Law Review paper “A Roadmap for Autonomous Vehicles:State Tort Liability, Automobile Insurance, and Federal Safety Regulation” – over het belang van deze strafrechtelijke vervolging en wat deze kunnen betekenen voor de toekomst van het consumentenvertrouwen in nieuwe technologie.

Kun je enig licht werpen op het juridische precedent dat de strafrechtelijke vervolging van Kevin George Aziz Riad stelt? Welke boodschap stuurt het naar consumenten en fabrikanten van vergelijkbare technologie?

Ten eerste zijn de strafrechtelijke vervolgingen verrassend, gebaseerd op wat we weten:de strafrechtelijke aanklachtdocumenten geven, zoals gewoonlijk, geen details. Normaal gesproken, als je niet oplette, door rood reed en iemand aanreed - hoe tragisch het ook is - zou je in de overgrote meerderheid van de gevallen geen strafrechtelijke vervolging krijgen voor dat gedrag. Je ziet echt niet veel strafrechtelijke vervolgingen voor auto-ongevallen buiten de gevallen van rijden onder invloed.

Als de bestuurder schuldig zou worden bevonden aan doodslag, zou deze zaak echt het meest ontwrichtende, het meest nieuwe en het meest baanbrekende precedent kunnen zijn. Het is een sterke afwijking van het verleden, als de strafrechtelijke vervolging in feite is gebaseerd op zijn vertrouwen op de automatische piloot terwijl hij het had moeten overnemen. Als dat is wat er aan de hand is, zie je misschien veel meer strafrechtelijke vervolgingen vooruitgaan dan we nu doen.

Aansprakelijkheid uit onrechtmatige daad, of burgerlijke aanklacht, is daarentegen heel gewoon. Dat is wanneer de beklaagde schadevergoeding zou betalen voor veroorzaakte verwondingen. De meeste rechtszaken voor onrechtmatige daad in staatsrechtbanken in het hele land zijn van motorvoertuigongevallen waarbij één bestuurder de crash zou hebben veroorzaakt door nalatigheid, wat in dit geval duidelijk gebeurde omdat de bestuurder door een rood licht reed.

Als deze zaak op de een of andere manier aangeeft dat strafrechtelijke aansprakelijkheid beter mogelijk is door simpelweg op de technologie te vertrouwen, dan zou dat een ingrijpende verschuiving in de aard van juridische aansprakelijkheid kunnen worden.

Welke verplichting heeft een geavanceerd technologiebedrijf als Tesla om bestuurders te informeren, hetzij rechtstreeks, hetzij via reclame- en marketingberichten, dat zij aansprakelijk zijn voor alle schade, ongeacht of de auto op de automatische piloot staat?

Ze hebben duidelijk de plicht om de persoon die op de bestuurdersstoel zit te waarschuwen om het voertuig over te nemen - dat het niet in staat is om alles alleen te doen. Je ziet die waarschuwing in Tesla-voertuigen, en bijna alle voertuigen hebben dat soort waarschuwing. Als je bijvoorbeeld een kaartfunctie gebruikt tijdens het rijden, zullen veel auto's een waarschuwing geven:"Dit leidt je af, let op de weg."

Fabrikanten hebben ook de plicht om bij het ontwerpen van de auto rekening te houden met het gevoel van zelfgenoegzaamheid dat gepaard gaat met rijtechnologie. Tesla of andere fabrikanten kunnen niet zomaar zeggen:"Hé, let op, dat is jouw verantwoordelijkheid." Ze moeten eigenlijk proberen iets in het ontwerp te stoppen om ervoor te zorgen dat chauffeurs oplettend blijven. Verschillende fabrikanten pakken dit probleem dus op verschillende manieren aan:sommige auto's zullen stoppen als je handen niet aan het stuur zitten en andere auto's hebben camera's die gaan piepen als je niet oplet.

Volgens de huidige wetgeving is de autofabrikant niet aansprakelijk als de bestuurder een ongeval krijgt en er is een adequate waarschuwing gegeven, en het ontwerp zelf is voldoende om de bestuurder oplettend te houden. Maar er is hier één mogelijke uitzondering:er is een formulering van de aansprakelijkheidsregel die vrij algemeen wordt toegepast in het hele land, ook in Californië, waar deze zaak zal plaatsvinden. Volgens deze regel is het onderzoek gebaseerd op wat consumenten van de fabrikant verwachten. En de verwachtingen van de consument kunnen sterk worden beïnvloed door marketing en reclame, enzovoort.

Als Tesla bijvoorbeeld zou adverteren dat Autopilot nooit in een crash terechtkomt, en dan krijgt een consument wel een crash, dan zou Tesla aansprakelijk zijn voor het frustreren van die verwachtingen.

In dit geval werd de bestuurder aangeklaagd op basis van het idee dat hij te afhankelijk was van de automatische piloot van zijn auto. Wat zegt dit over onze basisaannames over de vraag of mensen of technologie betrouwbaarder zijn?

Er is een belangrijk onderscheid tussen te veel vertrouwen en zelfgenoegzaamheid. Ik denk dat zelfgenoegzaamheid gewoon een natuurlijke menselijke reactie is op het gebrek aan prikkels - in dit geval het gebrek aan verantwoordelijkheid voor het uitvoeren van alle rijtaken. Je kunt je vervelen en in slaap vallen met een gevoel van zelfgenoegzaamheid, maar ik denk niet dat dat gedrag al te afhankelijk is van technologie.

Het idee van overmatig vertrouwen komt hier in het spel met de potentiële aard van het wangedrag. Misschien zal de bestuurder zich in dit geval verdedigen door te zeggen dat hij redelijkerwijs dacht dat de auto alles onder controle had, volledig in staat was om dit probleem op te lossen en zich dus geen zorgen hoefde te maken om te reageren als het anders zou uitpakken. Op dat moment zou hij zijn vertrouwen stellen in de technologie in plaats van in zijn eigen vermogen om het voertuig te stoppen en op een veilige manier uit het probleem te komen. Als er blind vertrouwen is in de technologie in plaats van het over te nemen terwijl je dat had kunnen doen, en als je als gevolg daarvan aansprakelijk bent, wordt dat een zeer diepgaande, interessante soort boodschap die de wet verzendt.

Denkt u dat deze verschuiving in aansprakelijkheid nadelig zal zijn voor bedrijven als Tesla?

Het grote probleem waarmee fabrikanten van autonome voertuigen zoals Tesla momenteel worden geconfronteerd, is het vertrouwen van de consument winnen wanneer ze een nieuwe technologie op de markt introduceren. De behoefte aan vertrouwen in de vroege stadia van deze producten is enorm belangrijk. En alle fabrikanten maken zich zorgen over dat probleem, omdat ze weten dat als er een aantal gruwelijke crashes plaatsvinden, consumenten het vertrouwen in het product zullen verliezen. Uiteindelijk zal de technologie het overnemen; het is alleen de vraag of het eerder vroeger dan later is. En tijd is geld in deze context - dus als je alleen maar langzamere adoptie krijgt omdat consumenten erg bezorgd zijn over de veiligheidsprestaties van de technologie, zal dat de industrie schaden. Die uitkomst willen ze natuurlijk voorkomen. Deze technologie gaat het nog steeds overnemen - het is alleen een kwestie van hoe lang het duurt voordat dat gebeurt. Er zijn net zoveel voordelen aan het gebruik van autonome voertuigen, ook op het gebied van veiligheid.

Over zijn Autopilot en Full Self-Driving Capability zegt Tesla:"Hoewel deze functies zijn ontworpen om in de loop van de tijd beter in staat te zijn, maken de momenteel ingeschakelde functies het voertuig niet autonoom." Welke aansprakelijkheidsproblemen voorziet u als/wanneer deze voertuigen autonoom worden?

Het is een ingewikkelde vraag, en dat is het probleem waar iedereen in geïnteresseerd is. Zodra deze voertuigen volledig autonoom worden, is er alleen nog de auto. De mens in de auto is niet eens een element in de situatie. Dus de grote vraag is:als die voertuigen eenmaal crashen, wie betaalt dan? Je zou denken dat de fabrikant aansprakelijk zou zijn - en dat zal de kosten van deze voertuigen verhogen en het een stuk moeilijker maken om ze te distribueren. Er zijn veel mensen die vinden dat bij een ongeval de fabrikant altijd aansprakelijk moet zijn. Ik ben sterk sceptisch over die conclusie, omdat ik denk dat het veel dichterbij is dan de meeste mensen doen voorkomen.

Uiteindelijk hangen deze problemen af ​​van hoe federale toezichthouders zoals de National Highway Traffic Safety Administration het voertuig reguleren. Ze zullen een veiligheidsprestatienorm moeten vaststellen waaraan de fabrikant moet voldoen voordat hij het product als volledig autonoom commercieel kan distribueren. De vraag is waar de regelgevers die norm stellen, en ik denk niet dat het gemakkelijk is om het goed te krijgen. Op dat moment zal er een goed debat zijn:hebben ze het goed gedaan of niet? We zijn nog een paar jaar verder. Ik denk dat we deze gesprekken allemaal zullen voeren in 2025.