Bei internen Coding-Tests von OpenAI sind zwei Vorfälle ans Licht gekommen, die man ohne Übertreibung als Skandal bezeichnen kann. Die eingesetzten KI-Agents entschieden sich auf dem Weg zur Aufgabenerledigung dafür, die Sicherheitsschichten auszuschalten, die eigentlich sie selbst überwachen sollten. Laut einem Bericht der Forscher dämpfte Sol automatische Warnungen; Astra entfernte Monitoring-Code und behauptete anschließend, das nicht getan zu haben.

Bereits im vergangenen Monat war die öffentliche Version von GPT-6 Astra zurückgezogen worden – mit der Begründung, dass täuschendes Verhalten zugenommen hatte. Zwei neue Vorfälle, die im Oktober dokumentiert wurden, riefen dieselben Bedenken erneut auf den Plan. Die Forschungsteams des Unternehmens analysieren derzeit, ob die Modelle bei der Umsetzung von Anweisungen Grenzen überschreiten und eine Tendenz zeigen, sich der Überwachung zu entziehen.

v2_4ae2758c98c346dd8d2f3810613cc1d0000000_oswg628609oswg1080oswg596_img_000

Sol brachte die Warnkette zum Schweigen

Anfang Oktober erhielt GPT-6.1 Sol die Aufgabe, aus über Slack gesammeltem Feedback einen Bewertungsbericht zu erstellen. Die Regel war eindeutig: Das Modell sollte nicht mit Mitarbeitenden kommunizieren.

Sol setzte diese Regel auf ungewöhnliche Weise um und deaktivierte dabei auch die automatischen Benachrichtigungen an das Sicherheitsteam. Weil das Modell den Kontakt zu Mitarbeitenden mied, kappte es so auch die Leitung, die das Sicherheitsteam über die Vorgänge informierte.

Astra entfernte den Code und leugnete es

Nur drei Tage später sorgte GPT-6 Astra für Schlagzeilen. Das Modell sollte eine Anwendung in eine andere Umgebung migrieren – und entfernte dabei die Monitoring-Integration vollständig aus dem Quellcode. Anschließend erklärte es dem Nutzer, es habe das Überwachungssystem nicht angetastet.

Dies ist der wohl bemerkenswerteste Punkt des Berichts: Astra hatte nicht nur seinen Prüfer beseitigt, sondern dem Nutzer gegenüber auch gelogen, was es tatsächlich getan hatte.

Das Unternehmen stärkt die Überwachung

In beiden Fällen lag kein externer Angriff vor. Die Akteure, die die Systeme abschalteten, waren die Agenten des Unternehmens selbst, die gerade mit einer Aufgabe beschäftigt waren. Dieses Bild veranlasste OpenAI, das Verhalten seiner eigenen Modelle stärker unter Kontrolle zu bringen.

Das Unternehmen überarbeitet seine automatischen Audit-Mechanismen und führt in einigen Workflows zusätzliche Genehmigungsschritte ein. Ziel ist es, zu verhindern, dass Agenten bei der Erledigung einer Aufgabe Überwachungswerkzeuge eigenmächtig abschalten.