ASIMOV-Jailbreak: 1.500 Tests prüfen die Sicherheit von KI-Robotern

Das Modell erreichte bei Tests mit Apollo 2 in der Fahrzeugmontage 96 Prozent Erfolgsquote und verbesserte Sicherheitswerte.

•

Google DeepMind hat mit Gemini Robotics 2.5 sein bislang leistungsfähigstes Vision-Language-Action-Modell vorgestellt. Die Neuentwicklung soll Robotern zu mehr physischer Intelligenz und allgemeiner Geschicklichkeit außerhalb geschützter Laborbedingungen verhelfen.

Wie das Unternehmen mitteilt, wurde das System in über 200 unterschiedlichen Aufgaben erprobt, darunter das Servieren von Speisen mit Zangen, das Pipettieren sowie das Binden von Schleifen.

In internen Labortests erzielte das Modell je nach Aufgabentyp Erfolgsraten, die zwischen 30 Prozent und 100 Prozent über bisherigen Referenzwerten lagen. Zudem bewältigten die Roboter die vorgegebenen Abläufe um 20 Prozent bis 30 Prozent schneller.

Laut Carolina Parada, der Leiterin des Robotikbereichs bei DeepMind, erlaubt das System Robotern, deutlich mehr Aufgaben mit gesteigerter Leistung und Präzision zu bewältigen. Es verbinde dabei die Nutzung fortgeschrittener Werkzeuge mit der Manipulation verformbarer Werkstoffe sowie dem behutsamen Umgang mit empfindlichen Objekten.

Praxiseinsatz bei Mercedes-Benz und Apptronik

Erste praktische Tests unter realen Bedingungen fanden in Kooperation mit dem Hersteller Apptronik und Mercedes-Benz statt. Auf aktiven Produktionslinien im ungarischen Kecskemét und im baden-württembergischen Sindelfingen übernahm der humanoide Roboter Apollo 2 Aufgaben im Bereich der Teilezusammenstellung für die Fahrzeugmontage. Im Rahmen dieses Machbarkeitsnachweises verzeichnete das System eine Erfolgsrate von 96 Prozent.

Anzeige

Während die Industrie durch Roboter immer autonomer wird, stellt der EU AI Act neue rechtliche Weichen für den Einsatz solcher Systeme. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen der KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Apollo 2 greift auf eine sogenannte SharpaWave-Hand mit 22 Freiheitsgraden zurück, mit der die Maschine unter anderem mit fünf Fingern eine Schleife binden kann. Neben humanoiden Systemen lässt sich Gemini Robotics 2.5 auch auf anderen Plattformen wie Franka Duo mit Parallelgreifern betreiben.

Trotz des hohen Reifegrads in der Fertigungslinie stuft DeepMind-Direktor Kanishka Rao die Bewältigung der verbleibenden Differenz von vier Prozent bis zum menschlichen Leistungsniveau als steilen Weg ein.

Erweiterte Sicherheitsarchitektur und Simulationen

Verbesserungen verzeichnet Google DeepMind zudem bei der Betriebssicherheit. Bei auftretenden Hindernissen stieg die Quote sicher abgeschlossener Aufgaben um 33 Prozent; befanden sich Personen in der unmittelbaren Umgebung, lag das Plus bei 43 Prozent. Um Sicherheitsrisiken systematisch zu analysieren, veröffentlichte das Forschungsteam den quelloffenen Prüfstandard ASIMOV-Jailbreak mit 1.500 Testanweisungen.

Anzeige

Fortschrittliche Robotik und KI-Systeme erfordern nicht nur physische Präzision, sondern auch eine lückenlose rechtliche Absicherung im Rahmen der neuen EU-Gesetzgebung. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen jetzt konkret zur Compliance tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen

In dieser Prüfumgebung erreichte Gemini 4 Argon eine Resistenz gegenüber unerwünschter Manipulation von 99,5 Prozent und eine Gesamtsicherheit von 98,8 Prozent. Zum Vergleich erzielte die ältere Modellvariante Gemini Robotics ER 2 isoliert lediglich 82 Prozent Resistenz beziehungsweise 73,5 Prozent Sicherheit.

Zugleich fungierte Gemini 4 Argon als Simulationsmotor, der auf Basis von Kameradaten digitale Zwillinge erstellte und Tausende neuer Trainingsvarianten generierte.

Bereitstellung für ausgewählte Industriepartner

Das KI-Modell ist vorerst nicht frei verfügbar. Google DeepMind beschränkt die Bereitstellung auf ausgewählte Partnerunternehmen, darunter Agile Robots, Boston Dynamics und Apptronik. Die Steuerung der Systeme erfolgt derzeit cloudbasiert, wodurch gewisse Latenzzeiten im Betrieb entstehen.

Nach Angaben des Unternehmens auf der Plattform X zielt das System darauf ab, hunderte alltagsnahe Fertigkeiten zu erlernen. Das Spektrum reicht vom Falten von Kleidungsstücken über das Servieren von Backwaren bis zur Sortierung von Automobilkomponenten. Primäres Ziel bleibt die Steigerung der industriellen Produktivität durch die Automatisierung komplexer physischer Arbeitsschritte.