OpenAI stellt Control Room vor: ausfallsicheres System stoppt Forschungsmodelle binnen 35 Sekunden
Am 9. November hat OpenAI Control Room beschrieben, einen internen Dienst, der jede Modell-Arbeitslast in der Forschungsinfrastruktur verfolgt und sie bei Sicherheitsproblemen stoppen kann. Jeder Job erhält eine ID, und Inferenz-Engines fragen Control Room um Erlaubnis, bevor sie eine Anfrage dieses Jobs beantworten. Ist ein Job als gestoppt markiert, erzeugt keine Engine mehr Ausgabe dafür, spätestens 35 Sekunden nach der Entscheidung.
Original bei OpenAI — Control Room lesen ↗
Warum es wichtig ist
KI-Labore trainieren Modelle mit Agenten, die lange laufen, und ein Monitor kann mitten im Lauf riskantes Verhalten erkennen. Die Ausgabe zuverlässig und schnell abzuschalten, ist eine grundlegende Sicherheitskontrolle. OpenAI hat die Prüfung in die Inferenzschicht gelegt, die nur wenige Codepfade hat, statt in Forschungscode, der sich oft ändert und Fehler enthalten kann.
Was sich ändert
- Für Entwickler
- Das Muster eignet sich für alle, die Agenten betreiben: eine Job-ID vergeben, jeden Modellaufruf gegen diese ID autorisieren und geschlossen ausfallen, damit ein Ausfall oder eine Manipulation jede Inferenz blockiert, statt sie unkontrolliert laufen zu lassen.
- Für Unternehmen
- Laut OpenAI laufen Trainingsjobs für Spitzenmodelle bereits mit Überwachung und Fail-closed-Modus; die übrigen Forschungsarbeitslasten folgen in den nächsten Tagen.
Quellen
- OpenAI — Control Room ↗ openai.com Primärquelle
Von KI aus offiziellen Quellen zusammengefasst am 10. November 2026. Einen Fehler entdeckt? Sag uns Bescheid. So funktioniert’s