211service.com
Hacker sind das eigentliche Hindernis für selbstfahrende Fahrzeuge
Espen Friberg
Bevor autonome Lastwagen und Taxis auf die Straße kommen, müssen Hersteller Probleme lösen, die weitaus komplexer sind als Kollisionsvermeidung und Navigation (siehe 10 Breakthrough Technologies 2017: Self-Driving Trucks ).
Diese Fahrzeuge müssen ein ganzes Spektrum bösartiger Angreifer antizipieren und sich dagegen verteidigen, die sowohl herkömmliche Cyberangriffe als auch eine neue Generation von Angriffen auf der Grundlage von sogenanntem kontradiktorischen maschinellen Lernen ausführen (siehe AI Fight Club Could Help Save Us from a Future of Super-Smart Cyberattacks). ). Während der Konsens wächst, dass autonome Fahrzeuge nur noch wenige Jahre davon entfernt sind, in Städten als Robotertaxis und auf Autobahnen eingesetzt zu werden, um die lähmende Langeweile des Fernverkehrs zu lindern, wurde dieses Angriffsrisiko in der atemlosen Berichterstattung weitgehend vermisst.
Es erinnert mich an zahlreiche Artikel, die Anfang der 1990er Jahre für E-Mail geworben haben, bevor die neu entdeckte Welt der elektronischen Kommunikation von unerwünschtem Spam überschwemmt wurde. Damals galt das Versprechen des maschinellen Lernens als Lösung für die weltweiten Spam-Probleme. Und tatsächlich ist das Spam-Problem heute weitgehend gelöst – aber es hat Jahrzehnte gedauert, bis wir hier ankamen.
Bisher gab es keine Berichte über feindliche Hacker, die auf selbstfahrende Fahrzeuge abzielen. Ironischerweise ist das jedoch ein Problem. Auch als die Dotcom-Startups in den 1990er Jahren die ersten E-Commerce-Plattformen entwickelten, gab es keine böswilligen Angreifer. Nach der ersten großen Runde von E-Commerce-Hacks hat Bill Gates schrieb ein Memo an Microsoft, in dem er forderte, dass das Unternehmen Sicherheit ernst nimmt . Das Ergebnis: Windows ist heute eines der sichersten Betriebssysteme und Microsoft gibt jährlich mehr als eine Milliarde Dollar für Cybersicherheit aus . Dennoch finden Hacker immer wieder Probleme mit Windows-Betriebssystemen, Webbrowsern und Anwendungen.
Autohersteller werden wahrscheinlich eine ähnliche Entwicklung durchlaufen. Nachdem es ihnen peinlich war, dass sie Sicherheit überhaupt nicht berücksichtigten – der CAN-Bus, der in den 1980er Jahren entwickelt wurde, hat kein Konzept der Authentifizierung –, scheinen sie jetzt darauf zu achten. Als Hacker zeigten, dass Fahrzeuge auf den Straßen anfällig für mehrere spezifische Sicherheitsbedrohungen waren, reagierten die Autohersteller, indem sie die Firmware von Millionen von Autos zurückriefen und aktualisierten. Letzten Juli sagte GM-CEO Mary Barra, dass der Schutz von Autos vor einem Cybersicherheitsvorfall eine Frage der öffentlichen Sicherheit sei.
Aber die bisherigen Bemühungen könnten den nächsten Sicherheitstrend verfehlen. Die in der Entwicklung befindlichen Computer-Vision- und Kollisionsvermeidungssysteme für autonome Fahrzeuge beruhen auf komplexen maschinellen Lernalgorithmen, die selbst von den Unternehmen, die sich auf sie verlassen, nicht gut verstanden werden (siehe The Dark Secret at the Heart of AI ).
Letztes Jahr Forscher an der CMU das demonstriert Modernste Gesichtserkennungsalgorithmen könnten durch das Tragen einer durchsichtigen Brille mit einem funky Muster auf dem Rahmen besiegt werden. Irgendetwas an dem Muster gab dem Algorithmus genau den richtigen Tipp, und er dachte, er hätte gesehen, was nicht da war. Wir haben gezeigt, dass Angreifer modernste Gesichtserkennungsalgorithmen umgehen können, die auf neuronalen Netzen basieren, um sich als Zielperson auszugeben oder einfach falsch identifiziert zu werden, schrieb der leitende Forscher Mahmood Sharif in einer E-Mail.
Ebenfalls im vergangenen Jahr Forscher der University of South Carolina, der chinesischen Zhejiang University und der chinesischen Sicherheitsfirma Qihoo 360 das demonstriert Sie könnten verschiedene Sensoren an einem Tesla S blockieren und Objekte für sein Navigationssystem unsichtbar machen.
Viele neuere Artikel über autonomes Fahren spielen die Idee herunter oder ignorieren sie sogar, dass es aktive, adaptive und böswillige Gegner geben könnte, die versuchen, die Fahrzeuge zum Absturz zu bringen. Im Gespräch mit MIT Technology Review , der Vorsitzende des National Transportation Safety Board, Christopher Hart, sagte, er sei sehr optimistisch, dass selbstfahrende Autos die Zahl der Unfälle auf den Straßen des Landes senken würden. Bei der Erörterung von Sicherheitsfragen konzentrierte sich Hart auf die Notwendigkeit, Fahrzeuge so zu programmieren, dass sie ethische Entscheidungen treffen – zum Beispiel, wenn ein 80.000-Pfund-Lkw plötzlich einem Auto den Weg versperrt.
Warum sollte jemand ein selbstfahrendes Auto hacken wollen, obwohl er weiß, dass dies zum Tod führen kann? Ein Grund dafür ist, dass der weit verbreitete Einsatz autonomer Fahrzeuge zu vielen Arbeitslosen führen wird, und einige von ihnen werden wütend sein.
Im August 2016 wurde Ford-CEO Mark Fields sagte, dass Er plante, bis 2021 vollständig autonome Fahrzeuge als Stadttaxis einzusetzen. Google, Nissan und andere planten, bereits 2020 ähnliche autonome Autos auf den Straßen zu haben. Diese automatisierten Taxis oder Lieferfahrzeuge könnten anfällig dafür sein, mit einem High böswillig geblendet zu werden -Power-Laserpointer von einem arbeitslosen Teamster, einem ehemaligen Uber-Fahrer, der noch Autozahlungen zu leisten hat, oder einfach nur einem Haufen gelangweilter Teenager.
Auf die Frage nach seinen Plänen zur Bekämpfung der Bedrohung durch kontradiktorisches maschinelles Lernen antwortete Sarah Abboud, eine Sprecherin von Uber: Unser Team von Sicherheitsexperten erforscht ständig neue Abwehrmaßnahmen für die Zukunft autonomer Fahrzeuge, einschließlich Datenintegrität und Missbrauchserkennung. Mit der Entwicklung der autonomen Technologie entwickelt sich jedoch auch das Bedrohungsmodell, was bedeutet, dass sich einige der heutigen Sicherheitsprobleme wahrscheinlich von denen unterscheiden werden, die in einer wirklich autonomen Umgebung behandelt werden.
Schon wenige Unfälle reichen aus, um den Einsatz fahrerloser Fahrzeuge zu stoppen. Dies wird fortschrittliche Autopilotsysteme wahrscheinlich nicht behindern, aber es ist wahrscheinlich eine erhebliche Abschreckung für den Einsatz von vollständig autonomen Fahrzeugen.
Simon Garfinkel ist Wissenschaftsautor und lebt in Arlington, Virginia. Er arbeitet an einem neuen Buch über die Geschichte der Computer.