Wat moet een zelfrijdende auto doen als een voertuig in de buurt onvoorspelbaar heen en weer slingert op de weg, alsof de chauffeur dronken was? Hoe zit het met het tegenkomen van een voertuig dat de verkeerde kant op rijdt? Voordat zelfrijdende auto's op de weg komen, iedereen zou moeten weten hoe ze zullen reageren in onverwachte situaties.

Ik ontwikkel, autonome shuttles testen en inzetten, identificeren van methoden om ervoor te zorgen dat zelfrijdende voertuigen veilig en betrouwbaar zijn. Maar er is geen testbaan zoals de echte wegen van het land, en geen manier om deze nieuwe machines zo grondig te testen als moderne, door mensen aangedreven auto's, met miljarden kilometers per jaar gedurende tientallen jaren. Als zelfrijdende auto's de weg opgaan, ze crashen op zowel ernstige als kleine manieren. Toch worden al hun beslissingen elektronisch genomen, dus hoe kunnen mensen erop vertrouwen dat ze veilig rijden?

Gelukkig, er is een gemeenschappelijk, populaire en goed bestudeerde methode om ervoor te zorgen dat nieuwe technologieën veilig en effectief zijn voor openbaar gebruik:het testsysteem voor nieuwe medicijnen. De basisbenadering houdt in dat deze systemen doen waarvoor ze bedoeld zijn, zonder ernstige negatieve bijwerkingen – zelfs als onderzoekers niet helemaal begrijpen hoe ze werken.

Brede effecten

Van zelfrijdende auto's wordt verwacht dat ze de verkeersveiligheid verbeteren, tijd en aandacht van chauffeurs vrijmaken en steden en zelfs samenlevingen transformeren.

De regelgeving die voor zelfrijdende auto's wordt gecreëerd, zal enorme effecten hebben die door de economie en de samenleving sijpelen. De regels zullen waarschijnlijk afkomstig zijn van een combinatie van de twee huidige regelgevers in de automobielsector, de federale National Highway Traffic Safety Administration en de staatsafdelingen van transport.

Federale regels richten zich vooral op veiligheidsnormen voor structurele, mechanische en elektrische componenten van de voertuigen, zoals airbags en veiligheidsgordels. Staten kunnen hun eigen veiligheidsregels afdwingen, bijvoorbeeld regulering van emissies en afhandeling van rijbewijzen en voertuigregistratie, die vaak ook het verplichten van een verzekering omvat.

Huidige regelgeving

De huidige staats- en federale regels behandelen bestuurders en auto's als afzonderlijke entiteiten. Maar zelfrijdende auto's, per definitie, combineer de twee. Zonder samenhang tussen die voorschriften, verwarring zal heersen.

De regering-Obama kwam met 116 pagina's met regelgeving met veel details, maar weinig begrip van hoe zelfrijdende auto's werkten. Bijvoorbeeld, ze riepen op dat elke auto voor mensen leesbare permanente labels had met de specifieke zelfrijdende mogelijkheden, inclusief limieten voor snelheden, specifieke snelwegen en weersomstandigheden, die allemaal zeer verwarrend zouden zijn voor gebruikers. De regelgeving riep ook op om ethische beslissingen "bewust en opzettelijk" te nemen - wat twijfelachtig is, zo niet onmogelijk, voor een automaat.

De regering-Trump heeft de regels teruggebracht tot 26 pagina's, maar hebben nog niet gesproken over het belangrijke probleem van het testen van zelfrijdende auto's.

Algoritmen onderzoeken

Het testen van algoritmen lijkt erg op het testen van medicijnen. In beide gevallen, onderzoekers kunnen niet altijd precies vertellen waarom iets werkt (vooral in het geval van machine learning-algoritmen), maar het is niettemin mogelijk om de uitkomst te evalueren:wordt een zieke beter na het innemen van een medicijn?

De Amerikaanse Food and Drug Administration vereist dat geneesmiddelen worden getest, niet op hun behandelingsmechanisme, maar voor het resultaat. De twee belangrijkste criteria zijn effectiviteit – hoe goed het geneesmiddel de aandoening behandelt waarvoor het bedoeld is – en veiligheid – hoe ernstig eventuele bijwerkingen of andere problemen zijn. Met deze methode, het is mogelijk om te bewijzen dat een medicijn veilig en effectief is zonder te weten hoe het werkt.

evenzo, federale regelgeving zou - en zou - moeten kunnen vereisen dat de algoritmen van zelfrijdende auto's worden getest. Daten, regeringen hebben auto's getest als machines, zorgen voor besturing, remmen en andere functies werken naar behoren. Natuurlijk, er zijn ook overheidstests voor menselijke bestuurders.

Een machine die beide doet, zou beide soorten tests moeten doorstaan, vooral voor voertuigen die geen menselijke bestuurders toelaten.

Oordeel evalueren

Volgens mij, alvorens een specifieke zelfrijdende auto op de weg toe te laten, De NHTSA zou testresultaten van de auto en zijn rijalgoritmen moeten eisen om aan te tonen dat ze veilig en betrouwbaar zijn. De dichtstbijzijnde norm op dit moment is de eis van Californië dat alle fabrikanten van zelfrijdende auto's jaarverslagen indienen over hoe vaak een menselijke bestuurder de controle over zijn voertuigen moest overnemen toen de algoritmen niet goed functioneerden.

Dat is een goede eerste stap, maar het vertelt regelgevers of het publiek niets over wat de voertuigen aan het doen waren of wat er om hen heen gebeurde toen de mensen het overnamen. Tests moeten onderzoeken wat de algoritmen de auto opdragen om te doen op snelwegen met vrachtwagens, en in buurten met dieren, kinderen, voetgangers en fietsers. Testen moet ook kijken naar wat de algoritmen doen wanneer zowel de voertuigprestaties als de invoer van sensoren worden aangetast door regen, sneeuw of andere weersomstandigheden. Auto's moeten door scenario's rijden met tijdelijke bouwzones, vierzijdige kruispunten, spookvoertuigen en politieagenten die aanwijzingen geven die in strijd zijn met verkeerslichten en andere situaties.

Menselijke rijtests omvatten enkele evaluaties van het oordeel en de besluitvorming van een bestuurder, maar tests voor zelfrijdende auto's zouden strenger moeten zijn omdat er geen manier is om te vertrouwen op mensgerichte concepten zoals instinct, reflex of zelfbehoud. Elke actie die een machine onderneemt, is een keuze, en het publiek moet duidelijk zijn over hoe waarschijnlijk het is dat die keuzes veilig zullen zijn.

Vergelijken met mensen

De algoritmen van zelfrijdende auto's berekenen voortdurend kansen. Hoe waarschijnlijk is het dat een bepaalde vorm een ​​persoon is? Hoe waarschijnlijk is het dat de sensorgegevens betekenen dat de persoon in de richting van de weg loopt? Hoe waarschijnlijk is het dat de persoon de straat op gaat? Hoe waarschijnlijk is het dat de auto kan stoppen voordat hij haar raakt? Dit is in feite vergelijkbaar met hoe het menselijk brein werkt.

Dat biedt een directe mogelijkheid voor het testen van autonome auto's en eventuele software-updates die een fabrikant zou kunnen distribueren naar voertuigen die al op de weg zijn:ze kunnen menselijke testrijders en zelfrijdende algoritmen dezelfde scenario's bieden en hun prestaties gedurende vele proeven volgen. Elke zelfrijdende auto die het net zo goed doet als of beter dan, mensen, kan worden gecertificeerd als veilig voor de weg. Dit lijkt erg op de methode die wordt gebruikt bij het testen van drugs, waarin de prestaties van een nieuw medicijn worden beoordeeld ten opzichte van bestaande therapieën en methoden waarvan bekend is dat ze niet effectief zijn, zoals de typische placebo-suikerpil.

Bedrijven moeten de vrijheid hebben om alle innovaties die ze willen op hun gesloten paden te testen, en zelfs op de openbare weg met chauffeurs voor menselijke veiligheid die klaar staan ​​om het stuur over te nemen. Maar voordat zelfrijdende auto's reguliere producten worden die voor iedereen te koop zijn, het publiek moet een duidelijk bewijs krijgen van hun veiligheid, betrouwbaarheid en effectiviteit.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.