Manipulierte Sensoren können autonome Fahrzeuge in die Irre führen
Aktualisiert: vor 4 Tagen
Forschende der Technischen Universität München untersuchen, wie sich Kameras und LiDAR-Sensoren autonomer Fahrzeuge gezielt manipulieren lassen. Bereits eine Folie mit mikroskopisch kleiner Prismenstruktur kann die Wahrnehmung eines Fahrzeugs so verändern, dass Objekte und Fahrspuren an einer falschen Position erkannt werden. Ziel der Forschung ist es, solche Angriffe frühzeitig zu erkennen und geeignete Schutzmechanismen zu entwickeln.
Fahrerassistenzsysteme gehören heute zur Ausstattung nahezu aller modernen Autos. Mit zunehmenden autonomen Funktionen steigt damit auch die Bedeutung der Computersysteme, die Daten von Kameras und anderen Sensoren verarbeiten. Fehler oder gezielte Manipulationen dieser Wahrnehmungssysteme können sich unmittelbar auf die Fahrentscheidungen eines Fahrzeugs auswirken.
Vor diesem Hintergrund untersucht ein Forschungsteam der Technischen Universität München (TUM), welche Angriffsmöglichkeiten sich bei Fahrzeugkameras, LiDAR-Sensoren und der anschließenden Verarbeitung der Sensordaten ergeben. Im Mittelpunkt steht dabei nicht nur die Frage, wie sich solche Systeme manipulieren lassen. Die Forschenden wollen vor allem Verfahren entwickeln, mit denen Fahrzeuge Angriffe erkennen und deren Auswirkungen abschwächen können.
Das Thema gewinnt auch mit Blick auf den geplanten Testbetrieb von Robotaxis im Münchner Stadtverkehr an Bedeutung. Autonome Fahrzeuge orientieren sich mithilfe optischer Sensoren in ihrer Umgebung. Kameras erfassen unter anderem Verkehrszeichen, Fahrbahnmarkierungen und andere Verkehrsteilnehmende. LiDAR-Systeme wiederum messen Entfernungen und erzeugen daraus ein räumliches Bild der Umgebung.
Folie verändert die Wahrnehmung der Sensoren
Wie vergleichsweise unauffällig ein Eingriff erfolgen kann, zeigt eine aktuelle Publikation des Teams um Sebastian Steinhorst, Professor für Embedded Systems and Internet of Things, und Mohammad Hamad, Gruppenleiter für Cybersicherheit des Internet of Things und autonomer Systeme, an der School of Computation, Information and Technology der TUM.
Die Forschenden verwenden für ihre Untersuchung eine Polycarbonatfolie, die auf der Oberfläche eines Sensors angebracht wird. Auf dieser Folie befindet sich eine mikroskopisch kleine, asymmetrische lineare Prismenstruktur. Sie sorgt dafür, dass das einfallende Licht um 20 Grad abgelenkt wird.
Die Manipulation führt dabei nicht dazu, dass das Fahrzeug seine Umgebung überhaupt nicht mehr erkennt. Objekte und Fahrspuren werden weiterhin erfasst. Allerdings nimmt das System deren Position falsch wahr. Tatsächlich befinden sie sich weiter links oder rechts, als es das Fahrzeug aufgrund der manipulierten Sensordaten annimmt.
Mehr als ein Meter Verschiebung kann kritisch werden
Die veränderte Wahrnehmung kann direkte Auswirkungen auf die Fahrentscheidungen haben. Ab einer Verschiebung von mehr als einem Meter kann die Abweichung nach Angaben der TUM dazu führen, dass das Fahrzeug fehlerhafte Entscheidungen trifft.
Als mögliches Szenario nennt die Universität ein Fahrzeug, das aufgrund der manipulierten Wahrnehmung versehentlich in den Gegenverkehr fährt. Das Beispiel zeigt, dass ein Angriff nicht zwingend einen vollständigen Ausfall der Sensorik verursachen muss, um sicherheitskritische Auswirkungen zu haben.
Für die Forschenden rückt damit die gesamte Wahrnehmungskette autonomer Fahrzeuge in den Fokus. Sie analysieren unterschiedliche Angriffspunkte bei Fahrzeugkameras, LiDAR-Sensoren und der Verarbeitung der von ihnen gelieferten Daten.
Kameras und LiDAR bieten unterschiedliche Angriffspunkte
Kameras übernehmen in autonomen Fahrzeugen die Erfassung visueller Informationen. Sie erkennen beispielsweise Verkehrszeichen, Fahrbahnmarkierungen oder andere Verkehrsteilnehmende. LiDAR-Systeme messen dagegen Entfernungen und erstellen daraus ein räumliches Bild der Fahrzeugumgebung.
Werden diese Wahrnehmungssysteme manipuliert, kann dies sicherheitskritische Folgen haben. Die Untersuchungen der TUM zeigen am Beispiel der Polycarbonatfolie, dass dafür bereits eine veränderte Perspektive ausreichen kann.
Die Forschenden untersuchen deshalb, welche unterschiedlichen Angriffspunkte die Sensoren und deren Datenverarbeitung bieten. Ziel ist es, neue Angriffsmethoden besser zu verstehen und insbesondere Wege zu entwickeln, mit denen Fahrzeuge entsprechende Manipulationen erkennen und abschwächen können.
Digitale Zwillinge ermöglichen kontrollierte Angriffstests
Bevor die Forschenden Angriffe an realen Fahrzeugen untersuchen, setzen sie digitale Zwillinge ein. Diese bilden sowohl das Fahrzeug als auch dessen Umgebung virtuell ab. Manipulationsversuche können dadurch zunächst in einer kontrollierten digitalen Umgebung durchgeführt werden.
Nach Angaben der TUM lassen sich die Angriffe auf diese Weise kontrolliert, sicher und kostengünstig analysieren. Erst anschließend werden die Angriffsszenarien unter anderem am Forschungsfahrzeug EDGAR der TUM getestet. Auch diese Versuche finden in einem kontrollierten Umfeld statt.
Damit verbindet das Forschungsteam virtuelle Untersuchungen mit Tests an einem realen Fahrzeug. Der Ansatz soll dabei helfen, verschiedene Manipulationsmöglichkeiten zu analysieren und geeignete Schutzmechanismen zu entwickeln.
Fahrzeuge sollen selbst auf Cyberangriffe reagieren
Neben der Analyse neuer Angriffsmöglichkeiten arbeitet das Forschungsteam auch an deren Abwehr. Langfristig sollen intelligente Fahrzeuge potenzielle Risiken selbstständig erkennen und angemessen darauf reagieren können.
Ein mögliches Szenario wäre, dass ein Fahrzeug bereits vor Beginn einer Fahrt feststellt, dass seine Sensoren nicht einwandfrei funktionieren, und einen entsprechenden Hinweis ausgibt. Wird ein Problem während der Fahrt erkannt, könnte das Fahrzeug beispielsweise sicher am Straßenrand anhalten.
Damit soll die Reaktion auf einen Angriff nicht ausschließlich davon abhängen, ob eine menschliche Sicherheitszentrale rechtzeitig eingreifen kann. Die TUM nennt als mögliche Hindernisse eine fehlende Verbindung, eine knappe Reaktionszeit oder technische Einschränkungen.
Schutz soll bereits vor Fahrtbeginn greifen
Die Arbeiten der TUM verbinden damit die Untersuchung konkreter Angriffsmethoden mit der Entwicklung von Schutzmechanismen. Die Forschenden wollen verstehen, an welchen Stellen Kameras, LiDAR-Systeme und die Verarbeitung ihrer Daten angreifbar sind und wie Fahrzeuge solche Manipulationen erkennen können.
Das Beispiel der Folie mit mikroskopischer Prismenstruktur verdeutlicht die Herausforderung: Das angegriffene System kann Objekte und Fahrspuren weiterhin erkennen und dennoch von einer falschen Position ausgehen. Bei einer Verschiebung von mehr als einem Meter können daraus fehlerhafte Fahrentscheidungen entstehen.
Langfristig sollen intelligente Fahrzeuge deshalb Auffälligkeiten selbstständig erkennen und darauf reagieren. Die Schutzmaßnahmen sollen bereits vor Fahrtbeginn auf nicht einwandfrei funktionierende Sensoren hinweisen und während der Fahrt im Bedarfsfall eine sichere Reaktion ermöglichen.
it&d business Redaktion
Kommentare