Waymos selbstfahrende Taxis erhalten in schwierigen Situationen menschliche Anweisungen von Mitarbeitern auf den Philippinen. Diese Enthüllung vor einem US-Senatsausschuss löste einen Sturm der Entrüstung aus.
Das Eingeständnis kam bei einer Anhörung zum Thema autonomes Fahren. Waymos Sicherheitschef Mauricio Peña erklärte, die Fahrzeuge könnten in komplexen Situationen einen „Freund anrufen“ – gemeint sind menschliche „Flotten-Response-Agenten“. Diese sehen die Kamerabilder des stehenden Fahrzeugs und schlagen eine Handlungsoption vor. Die finale Entscheidung liege aber stets beim KI-System, betonte das Unternehmen.
Sicherheitsbedenken und Vorwurf des Job-Exports
Die Senatoren reagierten mit scharfer, parteiübergreifender Kritik. Sie sehen erhebliche Sicherheits- und Cybersicherheitsrisiken. Die Frage lautet: Kann eine Entscheidung, die tausende Kilometer entfernt getroffen wird, in einer kritischen Sekundensituation sicher sein? Zudem kritisieren die Politiker, dass Waymo einerseits amerikanische Taxifahrer ersetze, andererseits die verbliebenen Support-Jobs in Niedriglohnländer auslagere.
Passend zum Thema KI‑Regulierung und Transparenz: Die EU-KI-Verordnung verlangt von Anbietern und Nutzern von KI-Systemen klare Kennzeichnung, Risikoklassifizierung und ausführliche Dokumentation. Für Unternehmen, die auf Remote‑Assistance oder „Human‑in‑the‑Loop“ setzen, sind die Anforderungen besonders relevant – fehlende Nachweise können teuer werden. Ein kostenloser Umsetzungsleitfaden erklärt kompakt, welche Pflichten gelten und wie sich KI‑Systeme rechtssicher einordnen lassen. Jetzt kostenlosen KI‑Verordnungs‑Leitfaden herunterladen
Die Kontroverse wurde durch die Untersuchung von Waymos Partnerschaft mit dem chinesischen Automobilhersteller Zeekr noch verschärft. Das Unternehmen plant, Fahrzeuge von Zeekr für seine nächste Robotaxi-Generation zu nutzen. Senatoren wie Bernie Moreno aus Ohio hinterfragten die Logik, im Wettlauf um autonomes Fahren gegen China anzutreten, während man gleichzeitig auf chinesische Hardware angewiesen ist.
Der versteckte menschliche Faktor der KI
Waymos Aussage enthüllt einen branchenweiten Trend: Viele scheinbar vollautonome Systeme sind in Wahrheit auf einen „Human-in-the-Loop“ angewiesen. Die Philippinen sind ein globales Zentrum für solche Outsourcing-Dienstleistungen. Die dortigen Mitarbeiter klassifizieren Daten und bearbeiten Ausnahmesituationen, mit denen die KI allein nicht zurechtkommt. Diese Praxis ist nicht auf Waymo beschränkt; auch ein Tesla-Manager räumte während der Anhörung den Einsatz entfernter Operateure ein.
Dies zeigt den grundlegenden Widerspruch zwischen der vermarkteten Vollautonomie und der operativen Realität. Die reibungslose Funktion hängt oft von einer globalen, unsichtbaren menschlichen Arbeiterschaft ab. Dies wirft komplexe ethische Fragen auf – von Arbeitspraktiken bis zur Datensicherheit.
Ausblick: Druck für neue Regulierung wächst
Die Enthüllungen dürften die Debatte um eine bundesweite Regulierung autonomer Fahrzeuge in den USA befeuern. Bisher gibt es nur einen Flickenteppich aus Landesgesetzen. Die Senatoren signalisierten deutlich den Wunsch nach einem umfassenden Rahmenwerk, das mehr Transparenz und Haftung vorschreibt.
Waymo und seine Wettbewerber werden unter Druck geraten, ihre Remote-Assistance-Programme offenzulegen. Der Vorfall könnte das öffentliche Vertrauen in einer entscheidenden Phase für die Branche erschüttern. Die Diskussion wird die Gesetzgebung prägen und eine nationale Abwägung erfordern: Wie lassen sich Innovation, Sicherheit und heimische Arbeitsplätze im Zeitalter der Automation in Einklang bringen?
PS: Seit August 2024 gelten neue KI‑Regeln – sind Ihre Systeme vorbereitet? Besonders Unternehmen mit Remote‑Assistance‑Setups müssen jetzt Kennzeichnung, Dokumentation und Risikomanagement nachweisen. Der kostenlose Umsetzungsleitfaden zur EU‑KI‑Verordnung zeigt praxisnah, welche Fristen laufen, welche Nachweise nötig sind und wie sich Human‑in‑the‑Loop‑Prozesse rechtskonform gestalten lassen. Kostenfreien Umsetzungsleitfaden zur KI‑Verordnung sichern
