Ist FSD zehnmal sicherer als Menschen? Reuters: Teslas Daten können einer genauen Prüfung nicht standhalten und nicht einmal die eigenen Leute glauben daran

Am 29. Mai veröffentlichte Reuters einen Artikel, in dem es hieß, dass Tesla behauptet, seine „Full Self-Driving“ (FSD)-Software sei bis zu zehnmal sicherer als ein menschlicher Fahrer, doch die vom Unternehmen zur Untermauerung dieser Behauptung verwendeten Daten können einer Prüfung nicht standhalten.Mitarbeiter, die an der Schulung der Technologie beteiligt sind, sagen, dass sie noch lange nicht bereit ist, selbstfahrende Autos in großem Maßstab sicher zu liefern.

Tesla wird verdächtigt, die FSD-Sicherheit zu übertreiben

In einem Büro in Utah, USA, prüfen Hunderte von Tesla-Mitarbeitern sorgfältig Videos, die von Fahrzeugen gesammelt wurden, die mit Tesla FSD-Funktionen ausgestattet sind. Einige Clips zeigen Fahrzeuge, die Katzen, Hunde oder Rehe anfahren, sowie häufigere Verkehrsunfälle. Manchmal bremst das Fahrzeug nicht einmal vor dem Aufprall und oft überhöht es die Geschwindigkeit. Gelegentlich sehen diese Mitarbeiter auch Fahrzeuge, die auf der Straße spielende Kinder knapp verfehlen.

Diese Mitarbeiter werden „Datenannotatoren“ genannt und sind für die Schulung der KI-Fahrassistenzsoftware von Tesla verantwortlich. Sie weisen auf gutes oder schlechtes Fahrverhalten hin und eskalieren Probleme an Ingenieure, die mit der Verbesserung des Systems beauftragt sind.

Elon Musk, CEO von Tesla, sagte, dass FSD bald allen Tesla-Fahrzeugen das vollständig autonome Fahren ermöglichen werde. Reuters-Interviews mit neun ehemaligen Datenannotatoren und einem ehemaligen Tesla-Autopilot-Ingenieur zeigten jedoch, dass die Technologie in den letzten Monaten immer noch Schwierigkeiten hatte, grundlegende Operationen durchzuführen, wie etwa das Ausweichen von Einsatzfahrzeugen oder das Anhalten eines Schulbusses beim Be- und Entladen von Schülern.

Trotz dieser gefährlichen Mängel haben Musk und andere Führungskräfte immer häufiger die Sicherheit von FSD gepriesen und Tesla dazu gedrängt, öffentliche Demonstrationen der „vollständig autonomen Fahrfähigkeiten“ abzuhalten. Diese Fähigkeit verspricht Musk den Anlegern seit einem Jahrzehnt jedes Jahr. Zu den Demonstrationen gehört ein Pilotprojekt für selbstfahrende Taxis in Austin, Texas, das im Juni letzten Jahres startete und über menschliche Sicherheitsmonitore im Fahrzeug verfügt, während andere aus der Ferne überwachen.

Sicherheitsdisplays sind auf Handarbeit angewiesen

Während diese Demonstrationen näher rückten, arbeiteten die Mitarbeiter bei Tesla lange Stunden, kartierten Routen und trainierten Software für bestimmte Gefahren, um Teslas selbstfahrende Technologie leistungsfähiger erscheinen zu lassen, als sie tatsächlich ist, sagten vier ehemalige Tesla-Mitarbeiter gegenüber Reuters. Diese Mitarbeiter sagten, dass diese Art von Sicherheitsmaßnahme, die stark auf manueller Arbeit beruht, für einen groß angelegten Einsatz einfach nicht durchführbar sei.

Über diese Bemühungen zur Gewährleistung der Sicherheit bei Tesla wurde bisher nicht berichtet, was Musks langjährige Behauptungen untergräbt. Musk behauptet seit langem, dass die selbstfahrende Technologie von Tesla bald überall auf der Welt eingesetzt werden kann, ohne dass die Wettbewerber die umständliche lokale Kartierung von Straßen und potenziellen Gefahren erfordern.

Laut Tesla kann FSD eine Vielzahl von Szenarien bewältigen, ehemalige Mitarbeiter sagen jedoch, dass grundlegende Abläufe immer noch ein Problem darstellen

Musk sagte, Tesla habe einen einfacheren Ansatz gewählt und sich ausschließlich auf Kameras und KI verlassen, was es ihm ermöglichen würde, seinen selbstfahrenden Taxidienst „super exponentiell“ zu erweitern und es bestehenden Tesla-Besitzern zu ermöglichen, durch Software-Updates vollständig selbstfahrend zu fahren.

Musk und andere Tesla-Führungskräfte haben das Vertrauen in die Fähigkeit des Unternehmens zum autonomen Fahren weiter gestärkt, indem sie sich auf die Sicherheitsstatistiken des Unternehmens berufen. Sie behaupten, dass diese Daten belegen, dass FSD bis zu zehnmal sicherer ist als ein menschlicher Fahrer.

Vergleichsdaten sind unzuverlässig

Eine Reuters-Überprüfung der statistischen Methodik von Tesla und Interviews mit Unternehmensinsidern zeigen jedoch, dass Tesla noch weit davon entfernt ist, selbstfahrende Autos in großem Maßstab sicher zu liefern – ein Versprechen, das für die Untermauerung des Marktwerts des Autoherstellers von 1,6 Billionen US-Dollar von entscheidender Bedeutung ist.

Die Überprüfung umfasst: eine Reuters-Analyse darüber, wie Tesla seine eigenen Unfalldaten mit den Unfalldaten des Bundes vergleicht; eine Bewertung der relativ strengeren statistischen Methoden, die der selbstfahrende Taxikonkurrent Waymo verwendet; und Interviews mit 11 Verkehrssicherheitsforschern, die Teslas statistische Methoden für Reuters überprüften.

Die Überprüfung ergab, dass hinter den Statistiken im FSD-Sicherheitsbericht von Tesla mehrere ungültige Datenvergleiche steckten. Zehn Forscher sagten, dass es sich bei den Vergleichen eher um irreführendes Marketing als um eine ernsthafte Untersuchung kritischer Sicherheitsprobleme handele.

Model 3 schaltet FSD ein

Tesla hat beispielsweise die Sicherheit der Technologie übertrieben, indem es die Unfallhäufigkeit von Teslas mit Airbags, die beim Fahren mit FSD ausgelöst wurden, mit der Unfallhäufigkeit aller Bundesfahrzeuge verglich, die weitaus weniger schwere Unfälle abdeckten. Die Forscher stellten außerdem fest, dass das Unternehmen seine Fahrzeuge mit dem durchschnittlichen US-Fahrzeug verglich, das Durchschnittsalter der US-Autos jedoch viel höher ist als das von Tesla. Forscher sagen, dass dies die Ergebnisse verzerrt, da alle Autohersteller in den letzten Jahren neue Sicherheitsfunktionen eingeführt haben, die zu einer Reduzierung der Unfallraten geführt haben.

„Jedes neue Auto ist viel sicherer als ein 12 Jahre altes Auto. Das ist, als würde man sagen: ‚Mein Jet ist schneller als Ihr Bomber aus dem Zweiten Weltkrieg.‘ Ja, aber was bedeutet das?“ sagte Phil Koopman, Ingenieurprofessor an der Carnegie Mellon University und Experte für die Sicherheit selbstfahrender Autos.

Auf detaillierte Fragen von Reuters zu diesem Bericht antwortete Tesla nicht.

Im Juli letzten Jahres behauptete Tesla-Finanzvorstand Vaibhav Taneja erstmals, dass „FSD zehnmal sicherer ist“, nachdem das Unternehmen das selbstfahrende Taxiprojekt in Austin gestartet hatte. Tesla-Vorsitzender Robyn Denholm wiederholte diese Aussage auf einer Konferenz im November. Bei dieser Versammlung stimmten die Aktionäre einem Vergütungspaket zu, das Musk Tesla-Aktien im Wert von bis zu 1 Billion US-Dollar gewährte. Bei derselben Sitzung zeigte Musk ein Diagramm, das auf der Grundlage kürzlich überarbeiteter statistischer Methoden von Tesla eine leicht konservative Behauptung aufstellte: „85 % weniger Unfälle.“

„Wir sind fast zufrieden damit, den Leuten zu erlauben, SMS zu schreiben und Auto zu fahren, und das ist eine Killer-App“, sagte Musk den Aktionären. „Wir werden die Sicherheitsstatistiken in den nächsten ein bis zwei Monaten im Auge behalten. Aber im Grunde werden wir Ihnen erlauben, SMS zu schreiben und zu fahren.“

Sechs Monate später hat Tesla den Benutzern jedoch immer noch nicht die Erlaubnis erteilt, bei aktiviertem FSD SMS zu schreiben und zu fahren. Im Kleingedruckten auf der offiziellen FSD-Website von Tesla heißt es immer noch: „Die derzeit aktivierten Funktionen erfordern weiterhin eine aktive Überwachung durch den Fahrer und ermöglichen dem Fahrzeug kein autonomes Fahren.“ Tesla beruft sich häufig auf diese Art von Haftungsausschluss, um sich in Klagen zu schweren Unfällen zu verteidigen.

Glauben Sie Musk nicht

Es wird allgemein davon ausgegangen, dass FSD bereits viele Fahrszenarien bewältigen kann, manchmal sogar über längere Zeiträume. Für Tesla und andere Unternehmen hat sich das völlig autonome Fahren jedoch als schwer zu erreichen erwiesen, da die Technologie erfordert, dass die Systeme in allen Szenarien, auch unter den komplexesten Straßenbedingungen, einwandfrei funktionieren.

Moschus

Sieben ehemalige Datenanalysten erklärten gegenüber Reuters, dass sie FSD nicht vertrauen würden, die Fahrzeuge zu fahren. „Wir haben alle gesehen, dass es schief ging“, sagte einer. Ein anderer sagte, er würde nicht in einem selbstfahrenden Tesla-Taxi fahren, selbst wenn ihm Geld angeboten würde. Ein erfahrener selbstfahrender Ingenieur, der jahrelang Tesla-Unfalldaten überprüft hat, bezeichnete Teslas Sicherheitsaussagen als „Schwachsinn“.

„Vertrauen Sie Musk in dieser Hinsicht auf keinen Fall“, sagte der Ingenieur.

Zehn Verkehrssicherheitsforscher sagten, die Prämisse der Sicherheitsstatistiken von Tesla sei von Natur aus fehlerhaft, da es sich bei FSD nicht um ein echtes selbstfahrendes System handele.

Sie wiesen darauf hin, dass die Aussage der Tesla-Führungskräfte zum „Vergleich mit menschlichen Fahrern“ tatsächlich unzutreffend sei. Tatsächlich vergleicht Tesla „durchschnittliche menschliche Fahrer“ mit „durchschnittlichen menschlichen Fahrern, die FSD nutzen“.

Darüber hinaus hat Tesla nicht berücksichtigt, dass der Fahrer FSD jederzeit ein- oder ausschalten kann. Und Untersuchungen zeigen, dass Fahrer in komplexen Verkehrssituationen (z. B. wenn sie das Gefühl haben, dass die Technologie unsicher ist) den Einsatz fortschrittlicher Fahrerassistenzsysteme tendenziell meiden. Teslas eigene Daten zeigen, dass FSD hauptsächlich auf Autobahnen eingesetzt wird.

Waymo ist strenger

Waymo von Alphabet vergleicht seine völlig fahrerlosen selbstfahrenden Taxis, die derzeit in 11 Metropolregionen in den Vereinigten Staaten im Einsatz sind, mit von Menschen gesteuerten Fahrzeugen unter ähnlichen Bedingungen.

Selbstfahrende Autos von Waymo

Waymo verfolgt einen strengeren Ansatz als Tesla, indem es die Unfalldaten in den Märkten, in denen das Unternehmen tätig ist, genau untersucht und sie an die Straßentypen und Gemeindeumgebungen anpasst, auf denen seine selbstfahrenden Taxis fahren werden. Waymo untersucht bestimmte Unfallraten, beispielsweise Unfälle mit ausgelösten Airbags oder schwere Verletzungen, und vergleicht seine Fahrzeuge mit den Unfallraten für von Menschen gesteuerte Fahrzeuge auf demselben Markt.

„Wir müssen mit unserer Formulierung sehr vorsichtig sein“, sagte Waymo-Sicherheitsforscher John Scanlon. „Man braucht sehr klare Forschungsfragen und sehr konkrete Schlussfolgerungen.“

Im Gegensatz dazu hat Tesla weder eine Begutachtung durch Fachkollegen eingeholt noch allgemeine Sicherheitsstatistiken veröffentlicht, während die Rohdaten zu Unfällen seiner Tesla-Fahrzeuge geheim gehalten werden.

Die Sicherheitsbereitstellung kann nicht überstürzt erfolgen

Vier mit der Angelegenheit vertraute Personen sagten, es könne Jahre dauern, bis ein sicherer, groß angelegter Einsatz erreicht sei. Doch im vergangenen Juli, einen Monat nach dem Start von Teslas selbstfahrendem Taxiprojekt in Austin, prognostizierte Musk, dass der Dienst bis Ende 2025 die Hälfte der US-Bevölkerung abdecken würde.

Im Januar behauptete Musk fälschlicherweise, dass Tesla in Austin und der San Francisco Bay Area 500 „selbstfahrende Taxis“ betreibe, und fügte hinzu, dass er erwartete, dass sich diese Zahl entlang einer „exponentiellen Kurve“ „jeden Monat verdoppeln“ werde. Musk sagte auch, dass Tesla in der Bay Area einen „selbstfahrenden Taxidienst“ betreibe. Doch in Wirklichkeit betreibt das Unternehmen lediglich einen Fahrdienst mit einer staatlichen Lizenz. Diese Lizenz wird typischerweise für Mitfahrdienste verwendet, die menschliche Fahrer erfordern.

Teslas selbstfahrende Taxis in Texas

Die Realität ist, dass Tesla fast ein Jahr nach Beginn des Projekts in Austin dort immer noch nur etwa 50 selbstfahrende Taxis betreibt, wie aus einer aktuellen Diapräsentation von Stadtbeamten hervorgeht. Drei mit der Angelegenheit vertraute Personen sagten, die Fahrzeuge seien in einem begrenzten und sorgfältig kartierten Gebiet unterwegs gewesen. Jüngsten Beobachtungen von Reuters-Reportern zufolge verfügen einige dieser Fahrzeuge noch über Sicherheitsmonitore auf den Beifahrersitzen.

Im April dieses Jahres gab Tesla bekannt, dass es in Dallas und Houston selbstfahrende Taxidienste einführen werde, und fügte eine Karte des Servicegebiets bei.

Reuters-Reporter haben den Dienst kürzlich in zwei Städten getestet und dabei lange Wartezeiten und eine uneinheitliche Verfügbarkeit festgestellt. In den drei Fällen, in denen es diesem Reporter gelang, in Dallas ein Taxi zu bekommen, war das selbstfahrende Taxi nicht in der Lage, ihn zu seinem Ziel in der Innenstadt zu bringen, obwohl das Ziel immer noch innerhalb des angegebenen Servicegebiets von Tesla lag.

Jedes Mal setzte ihn das selbstfahrende Tesla-Taxi an einem Ort ab, der etwa 15 Gehminuten von seinem Ziel entfernt war.