Bei einer kürzlichen Anhörung im US-Senat entlarvte der Marktführer für selbstfahrende Taxis, Waymo, erneut den Mythos der „vollständigen Automatisierung“: Wenn seine selbstfahrenden Taxis auf der Straße auf ungewöhnliche Situationen stoßen, werden die Fahrzeuge auf ferngesteuerte menschliche Fahrer umgestellt. Ein beträchtlicher Teil dieser Fahrer kommt nicht nur aus den USA, sondern auch aus Überseeregionen wie den Philippinen.
Mauricio Peña, Chief Safety Officer von Waymo, sagte bei der Anhörung, dass das Unternehmen unter besonderen Straßenbedingungen Fernfahrer einsetzen werde, um eine reibungslose Flucht der Fahrzeuge sicherzustellen. Bei diesen Betreibern handelt es sich größtenteils um Vertragsarbeiter, die in vielen Ländern ansässig sind, darunter auch auf den Philippinen. Dies bestätigt einmal mehr einen Trend: Viele Systeme der künstlichen Intelligenz, die als „vollautomatisch“ verpackt sind, sind in Wirklichkeit stark auf schlecht bezahlte menschliche Unterstützung im Hintergrund angewiesen, und manuelle Eingriffe kommen weitaus häufiger vor, als sich die Öffentlichkeit vorstellt.
Im Bereich des autonomen Fahrens ist eine solche „Manpower-Einsparung“ kein Einzelfall. Bei der Robotaxi-Flotte von Tesla müssen immer noch menschliche Beobachter im Auto sitzen und bereit sein, das Fahren zu übernehmen, während Waymo komplexe Szenarien durch Fernübernahme löst. Keines der beiden Unternehmen hat es wirklich geschafft, vollständig unbemannte Operationen durchzuführen. Auf der anderen Seite der KI-Branche wurden seit OpenAI eine neue Runde des Investitionsbooms ausgelöst wurde, eine große Anzahl von Vertragsarbeitern eingestellt, um Daten zu kennzeichnen, Inhalte zu bereinigen und große Modelle zu trainieren. Der Stundenlohn beträgt oft nur 15 US-Dollar und es gibt keine Sozialleistungen. Dieses unsichtbare Arbeitssystem unterstützt scheinbar „intelligente“ Chatbots und automatisierte Systeme.
Ähnliche Situationen treten häufig bei anderen „automatisierten“ Produkten auf. Bei Presto Automation, einem Fast-Food-Drive-Thru-System, das als „automatisierte Bestellung“ bezeichnet wird, wird die Bestellabwicklung auf den Philippinen weitgehend von Remote-Mitarbeitern überwacht und eingegriffen. Amazon behauptete einmal, dass Kunden mit der Just Walk Out-Technologie „Grab and Go“ können, was keinen Checkout erfordert. Hinter den Kulissen ist in Indien eine große Zahl von Arbeitskräften dafür verantwortlich, das Kundenverhalten zu überwachen und Kaufdetails festzulegen. Dies unterscheidet sich deutlich vom öffentlichen Verständnis einer „reinen algorithmischen Abwicklung“.
Auch im weiteren Bereich der Robotik und humanoiden Roboter verschwindet die Grenze zwischen Mensch und Maschine noch lange nicht. Als Tesla seine Roboter Ende 2024 bei der Auftaktveranstaltung „We, Robot“ vorstellte, gab das Unternehmen zu, dass es immer noch auf menschliche Bediener angewiesen sei. Seitdem verbreitete sich in den sozialen Medien ein Video, in dem ein Roboter zu Boden fällt, während ein Fernbediener während einer Demonstration sein Headset abnahm. Dadurch wurde die enge Verbindung zwischen sogenannten „autonomen Robotern“ und Fernbedienung noch intuitiver sichtbar.
Als die Senatoren Peña befragten, ging es jedoch nicht nur darum, „ob jemand beteiligt war“, sondern vielmehr darum, „wo diese Leute sind“. Der Senator von Massachusetts, Ed Markey, kritisierte den umfangreichen Einsatz ausländischer Remote-Fahrer durch Waymo als „völlig inakzeptabel“ und glaubte, dass einerseits Netzwerkverzögerungen auf der ganzen Welt Sicherheitsrisiken darstellen könnten und andererseits eine große Anzahl von Arbeitsplätzen im Zusammenhang mit kritischer Transportinfrastruktur ins Ausland ausgelagert würden, was Bedenken hinsichtlich der nationalen Sicherheit und der industriellen Sicherheit aufwirft.
Neben der Arbeitskräfteverteilung stellten die Gesetzgeber auch Waymos Verbindungen zu Ländern wie China in Frage. Im Gegensatz zu Tesla, das seine eigenen Modelle verwendet, nutzt Waymos selbstfahrende Plattform Fahrzeuge aus mehreren Ländern, darunter auch solche aus China, was Spekulationen darüber auslöst, ob Alphabets Waymo dies nutzt, um Importbeschränkungen für chinesische Autos zu umgehen. Als Antwort auf Fragen betonte Peña, dass das selbstfahrende System von Waymo in den Vereinigten Staaten installiert sei, und versuchte damit die Bedenken hinsichtlich Daten- und Sicherheitsrisiken herunterzuspielen, die durch „vernetzte chinesische Fahrzeuge, die auf amerikanischen Straßen fahren“ entstehen könnten.
Von der Fernübernahme von Fahrern an ausländische Vertragsarbeiter bis hin zum Einsatz von in China hergestellten Fahrzeugen konzentrierte sich diese Anhörung auf einen Kernwiderspruch der aktuellen autonomen Fahr- und KI-Branche: Auf der einen Seite steht das Marketing-Narrativ von „vollautomatisiert“ und „unbemannt“ und auf der anderen Seite das stark globalisierte Menschen- und Lieferkettennetzwerk, das still hinter den Kulissen agiert. Für gewöhnliche Benutzer mag es so aussehen, als würde man sich nur mit Algorithmen befassen, wenn man ein „selbstfahrendes Taxi“ herbeiruft. Doch in abgelegenen Rechenzentren sind oft zwei menschliche Hände bereit, das Steuer zu übernehmen, wenn das System ausfällt.