211service.com
Vollständig autonome Autos sind unwahrscheinlich, sagt Amerikas oberster Verkehrssicherheitsbeauftragter
Christoph Hart
Autounfälle töten jedes Jahr mehr als 33.000 Amerikaner, mehr als Mord oder Überdosierung von verschreibungspflichtigen Medikamenten. Unternehmen, die an selbstfahrenden Autos arbeiten, wie Alphabet und Ford, sagen, dass ihre Technologie diese Zahl reduzieren kann, indem menschliche Belastungen wie SMS, Trunkenheit und Müdigkeit beseitigt werden. Aber Christoph Hart , Vorsitzender des National Transportation Safety Board, sagt, dass die Erfahrung seiner Behörde bei der Untersuchung von Unfällen mit Autopilotsystemen in Zügen und Flugzeugen darauf hindeutet, dass Menschen nicht vollständig der Kontrolle entzogen werden können. Er sagte MIT Technology Review dass zukünftige Autos viel sicherer sein werden, aber dass einige immer noch Menschen als Copiloten brauchen werden. Was folgt, ist eine verkürzte Abschrift.
Wie optimistisch sind Sie, dass selbstfahrende Autos die Zahl der Todesopfer bei Autounfällen senken werden?
Ich bin sehr optimistisch. Seit Jahrzehnten suchen wir nach Möglichkeiten, um Verletzungen bei einem Unfall zu mindern. Wir haben Sicherheitsgurte, wir haben Airbags, wir haben robustere Karosseriestrukturen. Im Moment haben wir die Möglichkeit, den Absturz ganz zu verhindern. Und das wird Zehntausende Leben retten. Das ist der ideale Endpunkt: keinerlei Abstürze.
Auch Autopilotsysteme können neue Gefahren schaffen. Das NTSB hat gesagt, dass Piloten sich zu sehr auf Automatisierung verlassen Abstürze verursacht hat . Befürchten Sie, dass dieses Phänomen auch für Autos ein Problem darstellt?
Das ideale Szenario, von dem ich gesprochen habe, das jedes Jahr Zehntausende von Leben rettet, geht von einer vollständigen Automatisierung ohne jegliches menschliches Eingreifen aus. Ich bin nicht zuversichtlich, dass wir das tun werden immer diesen Punkt erreichen. Ich sehe das Ideal der vollständigen Automatisierung nicht in absehbarer Zeit.
Manche Leute fahren einfach gerne Auto. Einige Leute vertrauen der Automatisierung nicht, also werden sie fahren wollen. [Und] es gibt keinen Softwaredesigner auf der Welt, der jemals schlau genug sein wird, alle möglichen Umstände vorherzusehen, denen diese Software begegnen wird. Der Hund, der auf die Straße läuft, der Mensch, der die Straße hochläuft, der Radfahrer, der Polizist oder der Bauarbeiter. Oder die Brücke stürzt bei einem Hochwasser ein. Es gibt keine Möglichkeit, dass Sie in der Lage sein werden, ein System zu entwerfen, das damit umgehen kann.
Die Herausforderung besteht darin, wenn Sie eine nicht so vollständige Automatisierung mit immer noch erheblichem menschlichem Engagement haben – dann wird die Selbstzufriedenheit zu einem Problem. Dann wird der Mangel an Fähigkeiten zum Problem. Unsere Herausforderung lautet also: Wie gehen wir mit dem wahrscheinlich langfristigen Szenario um, in dem in diesem weitgehend automatisierten System noch ein gewisses Maß an menschlicher Beteiligung vorhanden sein wird?
Der kürzliche Todesfall eines Fahrers, der die Autopilot-Funktion von Tesla verwendet, könnte ein Fehler in der Automatisierung sein. Warum untersucht das NTSB diesen Absturz?
Wir untersuchen die meisten Autounfälle nicht. Was wir an diesen Tisch bringen, ist Erfahrung [mit] Szenarien der Einführung von Automatisierung in komplexe, menschenzentrierte Systeme, was dieses hier definitiv ist. Wir untersuchen diesen Absturz, weil wir sehen, dass die Automatisierung in Autos Einzug hält, und wir möchten versuchen, diesen Prozess mit unserer Erfahrung mit anderen Arten der Automatisierung zu informieren.
Wie was?
Nun, wir haben einen Unfall mit einem Personentransporter auf einem Flughafen untersucht. Es kollidierte mit einem anderen People Mover. Und unsere Untersuchung ergab, dass es sich bei dem Problem um ein Wartungsproblem handelte. Selbst wenn Sie den Operator eliminieren, haben Sie immer noch menschliche Fehler von den Leuten, die ihn entworfen haben, von Leuten, die ihn gebaut haben, von Leuten, die ihn warten.
Einige Leute sagen, dass selbstfahrende Autos ethische Entscheidungen treffen müssen, zum Beispiel zu entscheiden, wem Schaden zugefügt wird, wenn eine Kollision unvermeidlich ist. Ist das ein echtes Problem?
Ich kann Ihnen ein Beispiel geben, das ich an mehreren Stellen erwähnt gesehen habe. Mein automatisiertes Auto wird von einem 80.000-Pfund-LKW auf meiner Spur konfrontiert. Jetzt muss das Auto entscheiden, ob es in diesen Lastwagen rennt und mich, den Fahrer, tötet, oder ob es auf den Bürgersteig fährt und 15 Fußgänger tötet. Das müsste ins System gestellt [müssen]. Insassen schützen oder andere Personen schützen? Das wird für mich eine Reaktion der Bundesregierung erfordern. Solche ethischen Entscheidungen werden unvermeidlich sein.
Abgesehen von rein ethischen Entscheidungen – was ist, wenn das System versagt? Wird das System so versagen, dass der [Schaden] für die Öffentlichkeit, andere Autos und Radfahrer minimiert wird? Die Bundesregierung wird sich beteiligen.
Wie könnte dieser Prozess aussehen?
Die Federal Aviation Administration hat ein Schema, wonach Sie keinen alternativen Lastpfad haben müssen, wenn etwas weniger wahrscheinlich als eins zu einer Milliarde passiert [eine Fallback-Struktur, um das Gewicht des Flugzeugs zu tragen]. Wahrscheinlicher als das und Sie brauchen eine Ausfallsicherung. Wenn Sie nicht nachweisen können, dass das Versagen des Flügelholms – der sich lösende Flügel – weniger als eins zu einer Milliarde beträgt, wird es wahrscheinlich passieren. Dann brauchst du einen Plan B.
Derselbe Prozess wird bei Autos stattfinden müssen. Ich denke, die Regierung muss ins Spiel kommen und sagen: Sie müssen mir eine Fehlerwahrscheinlichkeit von weniger als X zeigen, oder Sie müssen mir eine Ausfallsicherung zeigen, die sicherstellt, dass dieser Fehler keine Menschen tötet. Das Festlegen der Grenze ist etwas, von dem ich denke, dass es in der Domäne der Bundesregierung und nicht der Landesregierung liegen wird. Ich will keine 50-Grenzen.