Hou op. Kun je een Tesla Autopilot-systeem voor de gek houden met een projector?

Werkelijk, een geprojecteerd beeld van een mens door het autosysteem als een echt persoon wordt beschouwd?

En zegt u dat Mobileye 630 PRO het geprojecteerde verkeersbord als een echt verkeersbord beschouwt?

Dit zijn bevindingen van een team van onderzoekers die de soorten fantoomaanvallen hebben aangetoond die kunnen optreden om rijhulpsystemen te misleiden.

Het team schreef een paper en leverde een videodemo over hun experimenten en bevindingen. Het artikel heet 'Phantom of the ADAS:Phantom Attacks on Driver-Assistance Systems'.

De auteurs zijn Ben Nassi, Dudi Nassi, Raz Ben Netanel, Jisroel Mirsky, Oleg Drokin, en Yuval Elovici. Auteursaffiliaties omvatten Ben-Gurion University of the Negev en Georgia Tech. Ze gebruikten de Tesla Model X en de Mobileye 630 PRO-systemen om te testen. Ze gebruikten ook een aantal geprojecteerde beelden; deze omvatten een menselijke figuur en een straatsnelheidsbord.

Ze wilden weten of je een systeem kunt laten denken dat het een echte wereldsituatie is - het systeem in de war brengen en een niveau van controle over het systeem krijgen. "Spookbeelden kunnen er ook voor zorgen dat de Tesla Model X (HW 2.5) plotseling remt."

Een videodemo liet zien hoe de auto zijn snelheid verlaagde van 18 mph naar 23 mph als gevolg van een spook dat werd gedetecteerd als een persoon.

Merk op dat ze het woord 'fantoom' veel gebruikten:'Een fantoom is een diepteloos object dat bedoeld is om ADAS'en en stuurautomaatsystemen het object te laten waarnemen en als echt te beschouwen. Het object kan een obstakel zijn (bijv. persoon, auto, vrachtauto, motorfiets), rijbaan, of verkeersbord, ' zei Nassi.

Maar waarom zou een beroemd zelfrijdend merk als Tesla een systeem hebben dat fantomen als echte obstakels zou zien? Nassi heeft dit besproken op zijn site in de sectie Veelgestelde vragen. "Wij zijn van mening dat dit waarschijnlijk het resultaat is van een 'better safe than sorry'-beleid dat een visuele projectie als een echt object beschouwt, ook al wordt het object niet gedetecteerd door andere sensoren (bijv. radar en ultrasone sensoren)."

Nep-weglijnen maakten deel uit van hun experimenten en er werd een instructie voorgelezen om over te steken naar de andere kant van de weg, via neplijnen en spookbanen.

Alex Kidman, Gizmodo , schreef woensdag over de experimenten. Het probleem met Mobileye- en Tesla-systemen, Hij schreef, was dat de onderzoekers ontdekten dat het beeldherkenningsmodel ervoor zorgde dat de fantoomobjecten als echte werden herkend. Globaal genomen, er is één grote perceptuele uitdaging wanneer fantoomaanvallen ingaan op geavanceerde rijhulpsystemen (ADAS's) en stuurautomaten.

Een video van 28 januari is gepost door Cyber ​​Security Labs van de Ben Gurion University.

Tesla's autopilot-tool wordt algemeen beschouwd als de huidige gouden standaard in autonome voertuigen, zei Gizmodo . Inderdaad, de auteurs van het artikel beschouwen Mobileye 630 PRO en de Tesla Model X, HW 2.5 als de meest geavanceerde ADAS- en stuurautomaattechnologieën van dit moment.

Tesla's Autopilot-niveau zorgt voor beperkte, niet vol, zelfrijdend:het voertuig heeft alleen in sommige situaties de volledige controle en zal de bestuurder informeren wanneer hij het moet overnemen.

Als Ars Technica 's Jim Salter benadrukte in zijn artikel, "Natuurlijk, niemand zou een Tesla in de eerste plaats zonder toezicht moeten laten rijden, " aangezien Autopilot niet de controller is voor een volledig autonome auto.

Salter maakte dat punt om een ​​brug te slaan naar een ander belangrijk punt:"Binnen deze beperkingen, zelfs de slechtste reacties in Nassi's video - die van de Model X die uitwijkt om valse rijstrookmarkeringen op de weg te volgen - lijkt niet zo slecht. In feite, die clip laat precies zien wat er moet gebeuren:de eigenaar van de Model X - bezorgd over wat zijn of haar dure auto in godsnaam zou kunnen doen - trapte op de rem en nam de controle handmatig over nadat Autopilot in een onveilige richting ging."

Het team zei dat ze bevindingen hebben bekendgemaakt aan Mobileye en Tesla, de twee systemen die in de experimenten zijn gebruikt. "We hebben Tesla en Mobileye op de hoogte gehouden via een reeks e-mails die van begin mei tot 19 oktober zijn verzonden."

De samenvatting van hun paper:

"... we onderzoeken een nieuwe perceptuele uitdaging die ervoor zorgt dat de ADAS's en stuurautomaten van semi/volledig autonome objecten diepteloze objecten (phantoms) als echt beschouwen. We laten zien hoe aanvallers deze perceptuele uitdaging kunnen benutten... zonder de noodzaak om de aanvalsscène, door een fantoom te projecteren via een drone die is uitgerust met een draagbare projector of door een fantoom te presenteren op een gehackt digitaal reclamebord dat tegenover het internet staat en zich in de buurt van wegen bevindt... de ADAS of automatische piloot van een auto beschouwt de fantomen als echte objecten, waardoor deze systemen de remmen activeren, stuur in de rijstrook van tegemoetkomend verkeer, en geef meldingen over valse verkeersborden."

Mogelijkheden voor mitigatie? De auteurs, verzachten, gepresenteerd "een model dat de context van een gedetecteerd object analyseert, oppervlakte, en weerkaatst licht, die in staat is om fantomen te detecteren met 0,99 AUC. Eindelijk, we leggen uit waarom de inzet van voertuigcommunicatiesystemen de mogelijkheden van aanvallers om fantoomaanvallen toe te passen zou kunnen verminderen, maar ze niet zal elimineren."

Salter ging terug naar zes maanden geleden, wanneer "Ben Nassi, een doctoraat student aan de Ben-Gurion University geadviseerd door professor Yuval Elovici, voerde een reeks succesvolle spoofing-aanvallen uit op een Mobileye 630 Pro Driver Assist-systeem met behulp van goedkope drones en op batterijen werkende projectoren. Vanaf dat moment, hij heeft de techniek om te experimenteren uitgebreid - ook met succes - met het verwarren van een Tesla Model X."

zout, globaal genomen, woog in met zijn mening over wat het onderzoek leerde en waarom het ertoe deed:"voor het grootste deel, het lijkt erop dat de Tesla redelijk en goed reageert op deze opzettelijke pogingen om zijn sensoren te verwarren. Wij vinden dit soort werk belangrijk, echter, omdat het de noodzaak aantoont van een defensief ontwerp van semi-autonome rijsystemen."

De auteurs in hun paper schreven, "We hebben niets tegen Tesla of Mobileye, en de reden dat hun producten in onze experimenten werden gebruikt, is omdat hun producten de beste en meest populaire producten zijn die op de markt verkrijgbaar zijn."

© 2020 Wetenschap X Netwerk