OpenAI presenta Control Room, sistema fail-closed che ferma l'output dei modelli di ricerca in 35 secondi
Il 9 novembre OpenAI ha descritto Control Room, un servizio interno che traccia ogni carico di lavoro dei modelli nella sua infrastruttura di ricerca e può fermarlo quando emerge un problema di sicurezza. Ogni job riceve un ID e i motori di inferenza chiedono il permesso a Control Room prima di rispondere a qualsiasi richiesta di quel job. Quando un job viene segnato come fermato, nessun motore produce altro output per lui, al massimo 35 secondi dopo la decisione.
Leggi l’originale su OpenAI — Control Room ↗
Perché conta
I laboratori di AI addestrano i modelli con agenti che girano a lungo, e un sistema di monitoraggio può notare un comportamento rischioso a metà esecuzione. Un modo affidabile per interrompere subito l'output è un controllo di sicurezza di base. OpenAI ha messo la verifica nel livello di inferenza, che ha pochi percorsi di codice, invece che nel codice di ricerca, che cambia spesso e può contenere bug.
Cosa cambia
- Per chi sviluppa
- Lo schema è utile per chiunque gestisca agenti: assegnare un ID al job, autorizzare ogni chiamata al modello in base a quell'ID e fallire in modo chiuso, così che un guasto o una manomissione blocchino tutta l'inferenza invece di lasciarla girare senza controllo.
- Per le aziende
- OpenAI afferma che i job di addestramento di frontiera girano già con monitoraggio e modalità fail-closed, e che il resto dei carichi di ricerca sarà coperto nei prossimi giorni.
Fonti
- OpenAI — Control Room ↗ openai.com Fonte primaria
Riassunto generato dall’AI dalle fonti ufficiali il 10 novembre 2026. Hai trovato un errore? Segnalacelo. Come funziona