Onderzoekers misleiden Tesla Autopilot om tegen verkeer in te rijden

Onderzoekers hebben een eenvoudige aanval ontdekt waarmee een auto van Tesla mogelijk bij bepaalde omstandigheden automatisch tegen het verkeer in gaat rijden.

Het proof-of-concept hackt niet het computing-systeem aan boord, maar gebruikt kleine, onopvallende stickers die de Enhanced Autopilot van een Model S75 misleiden. De stickers weten dat systeem zo ver te krijgen om een verandering in de huidige baan te detecteren en te volgen, schrijft Ars Technica.

Om de aanval mogelijk te maken worden drie stickers op de grond geplaatst. Die stickers zijn vrijwel onzichtbaar voor bestuurders, maar de machine learning-algoritmes van Tesla’s Autopilot detecteert ze als een streep die aangeeft dat de baan naar links verschuift. Als gevolg daarvan stuurde de Autopilot ook die kant op. En daarmee komt de auto dus aan de verkeerde kant van de weg terecht.

De onderzoekers schrijven ook dat de Autopilot diverse maatregelen heeft om incorrecte detecties te voorkomen. De maatregelen omvatten onder meer de positie van geschiedenis van banen en de grootte en afstanden van diverse objecten.

Andere bevindingen

Het rapport bevat echter ook andere bevindingen. Zo toont het aan hoe het mogelijk was om een game pad te gebruiken om een auto op afstand te besturen via een kwetsbaarheid in de Autopilot ECU. Die kwetsbaarheid is gedicht in de 2018.24 firmware-release van het bedrijf.

Verder blijkt het mogelijk om te knoeien met het autowiper-systeem, om de ruitenwissers aan te zetten als het niet regent. Tesla’s systeem gebruikt namelijk diverse camera’s die data invoeren in het kunstmatige intelligentie-netwerk om te bepalen of de ruitenwissers aanmoeten.

De onderzoekers ontdekten dat het niet moeilijk is om de functie te misleiden om te denken dat er regel valt, zelfs als dat niet het geval is. Dit lukt alleen als de beelden direct aan het systeem gevoerd worden. Uiteindelijk is het misschien ook mogelijk voor aanvallers om een “vijandig beeld” te tonen op borden langs de weg of andere auto’s, om hetzelfde te bereiken.

Reactie Tesla

Tesla heeft inmiddels gereageerd op de bevindingen. Daarbij stelt het bedrijf onder meer dat het geen realistische zorg is dat het Autopilot-systeem of de ruitenwissers zich anders gedragen dan ze moeten wegens fysieke wijzigingen aan de omgeving. “Een bestuurder kan het Autopilot-systeem eenvoudig overschrijven door het stuur of de remmen te gebruiken, en moet altijd voorbereid zijn om dat te doen. De ruitenwissers kunnen altijd met de hand bediend worden.”