In de race om autonome voertuigen (AV's) te produceren, veiligheid is cruciaal, maar wordt soms over het hoofd gezien, zoals blijkt uit recente ongevallen die de krantenkoppen halen. Onderzoekers van de Universiteit van Illinois in Urbana-Champaign gebruiken kunstmatige intelligentie (AI) en machine learning om de veiligheid van autonome technologie te verbeteren door zowel software- als hardware-ontwikkelingen.

"Het gebruik van AI om autonome voertuigen te verbeteren is extreem moeilijk vanwege de complexiteit van de elektrische en mechanische componenten van het voertuig. evenals variabiliteit in externe omstandigheden, zoals het weer, staat van de weg, topografie, verkeerspatronen, en verlichting, " zei Ravi Iyer

"Er wordt vooruitgang geboekt, maar veiligheid blijft een belangrijk punt van zorg."

De groep heeft een platform ontwikkeld waarmee bedrijven sneller en kosteneffectiever kunnen omgaan met veiligheid in de complexe en steeds veranderende omgeving van autonome technologie. Ze werken samen met veel bedrijven in de Bay area, inclusief Samsung, NVIDIA, en een aantal start-ups.

"We zien een inspanning van belanghebbenden in alle sectoren en universiteiten met honderden startups en onderzoeksteams, en pakken een paar uitdagingen aan in onze groep, " zei Saurabh Jha, een promovendus in de informatica die de inspanningen van studenten voor het project leidt. "Het oplossen van deze uitdaging vereist een multidisciplinaire inspanning in de wetenschap, technologie, en productie."

Een van de redenen waarom dit werk zo uitdagend is, is dat AV's complexe systemen zijn die AI en machine learning gebruiken om mechanische, elektronisch, en computertechnologieën om realtime beslissingen over het rijden te nemen. Een typische AV is een mini-supercomputer op wielen; ze hebben meer dan 50 processors en versnellers met meer dan 100 miljoen regels code om computervisie te ondersteunen, planning, en andere machine learning-taken.

Zoals verwacht, er zijn zorgen over de sensoren en de autonome rij-stack (computersoftware en -hardware) van deze voertuigen. Wanneer een auto 70 mph over een snelweg rijdt, storingen kunnen een aanzienlijk veiligheidsrisico vormen voor chauffeurs.

"Als een bestuurder van een typische auto een probleem waarneemt, zoals drift of trekken van het voertuig, de bestuurder kan zijn/haar gedrag aanpassen en de auto naar een veilige stopplaats leiden, " legde Jha uit. "Echter, het gedrag van het autonome voertuig kan in een dergelijk scenario onvoorspelbaar zijn, tenzij het autonome voertuig expliciet is getraind voor dergelijke problemen. In de echte wereld, er zijn oneindig veel van dergelijke gevallen."

traditioneel, wanneer een persoon problemen heeft met software op een computer of smartphone, de meest voorkomende IT-reactie is om het apparaat uit en weer aan te zetten. Echter, dit type fix is ​​niet aan te raden voor AV's, omdat elke milliseconde de uitkomst beïnvloedt en een langzame reactie tot de dood kan leiden. De bezorgdheid over de veiligheid van dergelijke op AI gebaseerde systemen is de afgelopen jaren bij belanghebbenden toegenomen als gevolg van verschillende ongevallen veroorzaakt door AV's.

"De huidige regelgeving vereist dat bedrijven als Uber en Waymo, die hun voertuigen testen op de openbare weg om jaarlijks te rapporteren aan de California DMV over hoe veilig hun voertuigen zijn, " zei Subho Banerjee, een CSL en informatica afgestudeerde student. "We wilden algemene veiligheidsproblemen begrijpen, hoe de auto's zich gedroegen, en wat de ideale veiligheidsmaatstaf is om te begrijpen hoe goed ze zijn ontworpen."

De groep analyseerde alle veiligheidsrapporten die van 2014-2017 werden ingediend, die 144 AV's bestrijken die een cumulatieve 1 aansturen 116, 605 autonome mijlen. Ze ontdekten dat voor hetzelfde aantal gereden kilometers, door mensen bestuurde auto's hadden tot 4000 keer minder kans op een ongeval dan AV's. Dit betekent dat de autonome technologie faalde, in een alarmerend tempo, om een ​​situatie op de juiste manier aan te pakken en de technologie uit te schakelen, vaak afhankelijk van de menselijke bestuurder om het over te nemen.

Het probleem dat onderzoekers en bedrijven hebben als het gaat om het verbeteren van die cijfers, is dat totdat een autonoom voertuigsysteem een ​​specifiek probleem heeft, het is moeilijk om de software te trainen om het te overwinnen.

Verder, fouten in de software- en hardwarestacks manifesteren zich alleen als veiligheidskritieke problemen in bepaalde rijscenario's. Met andere woorden, tests uitgevoerd op AV's op snelwegen of lege/minder drukke wegen zijn mogelijk niet voldoende, omdat veiligheidsschendingen onder software-/hardwarefouten zeldzaam zijn.

Als er fouten optreden, ze vinden plaats nadat honderdduizenden kilometers zijn gereden. Het werk dat nodig is om deze AV's over honderdduizenden kilometers te testen, kost veel tijd, geld, en energie, waardoor het proces extreem inefficiënt is. Het team gebruikt computersimulaties en kunstmatige intelligentie om dit proces te versnellen.

"We injecteren fouten in de software- en hardware-stack van de autonome voertuigen in computersimulaties en verzamelen vervolgens gegevens over de reacties van autonome voertuigen op deze problemen, " zei Jha. "In tegenstelling tot mensen, AI-technologie kan vandaag de dag niet redeneren over fouten die kunnen optreden in verschillende rijscenario's. Daarom, enorme hoeveelheden data nodig hebben om de software te leren de juiste actie te ondernemen bij software- of hardwareproblemen."

De onderzoeksgroep bouwt momenteel aan technieken en tools om rijomstandigheden en problemen te genereren die een maximale impact hebben op de AV-veiligheid. Door hun techniek te gebruiken, ze kunnen een groot aantal veiligheidskritieke scenario's vinden waarin fouten tot ongevallen kunnen leiden zonder dat ze alle mogelijkheden op de weg hoeven op te sommen - een enorme besparing van tijd en geld.

Tijdens het testen van een openlijk beschikbare AV-technologie, Apollo uit Baidu, het team vond meer dan 500 voorbeelden van gevallen waarin de software een probleem niet kon oplossen en de storing tot een ongeval leidde. Met dit soort resultaten wordt het werk van de groep opgemerkt in de branche. Ze werken momenteel aan een patent voor hun testtechnologie, en ben van plan het binnenkort in te zetten. Ideaal, de onderzoekers hopen dat bedrijven deze nieuwe technologie gebruiken om het geïdentificeerde probleem te simuleren en de problemen op te lossen voordat de auto's worden ingezet.

"De veiligheid van autonome voertuigen is van cruciaal belang voor hun succes op de markt en in de samenleving, " zei Steve Keckler, vice-president van Architectuuronderzoek voor NVIDIA. "We verwachten dat de technologieën die worden ontwikkeld door het onderzoeksteam van Illinois het voor ingenieurs gemakkelijker zullen maken om veiligere autosystemen tegen lagere kosten te ontwikkelen. NVIDIA is enthousiast over onze samenwerking met Illinois en ondersteunt hun werk graag."

Dit onderzoek is meerdere malen gepubliceerd door IEEE (artikel 1, artikel 2, artikel 3).