Was soll ein Roboter tun, wenn man ihn allein lässt? Die Antwort klingt einfach: nichts. Doch eine neue Studie zeigt nun, dass KI-basierte Robotikmodelle ohne jede Anweisung loslegen und eigenständig Aufgaben erledigen. Dieses unerwartete Verhalten wird als ernsthaftes Sicherheitsproblem für autonome Robotersysteme gewertet.

Das Forschungsteam testete sechs verschiedene Robotermodelle in einer virtuellen Umgebung. Unter der Bedingung, dass keinerlei Aufgabe zugewiesen wurde, gingen alle Modelle in Aktion. Fünf von ihnen führten von sich aus vordefinierte Aufgaben mit den Objekten in ihrer Umgebung durch.

Wie wurden die VLA-Modelle getestet?

gorsel_20261102_153014

Im Rahmen der Untersuchung wurden sogenannte Vision-Language-Action-Modelle (VLA) ausgewählt – Architekturen, die Bildverarbeitung, natürliches Sprachverständnis und Robotersteuerung in einem einzigen System vereinen. In den Experimenten erhielten die Roboter sowohl sinnvolle Aufgaben als auch unsinnige Befehle; einige Anweisungen waren physisch gar nicht umsetzbar. In einem Szenario bekam das Modell hingegen überhaupt keine Eingabe.

Der anweisungslose Fall bildete den bemerkenswertesten Teil der Studie. In dieser aufgabenfreien Umgebung setzten sich alle sechs Systeme selbstständig in Bewegung, und fünf begannen, die manuell programmierten Aufgaben auszuführen.

Warum ist Stillstand so schwer zu erzwingen?

gorsel_20261102_153026

Um das Leerlaufverhalten der Modelle zu garantieren, wurden gängige Methoden erprobt. Textbasierte Hinweise wie „Bleib still, wenn keine Aufgabe vorhanden ist