OpenAI detalha o Control Room, sistema à prova de falhas que interrompe modelos de pesquisa em 35 segundos
Em 9 de novembro a OpenAI descreveu o Control Room, um serviço interno que acompanha cada carga de trabalho de modelos na sua infraestrutura de pesquisa e pode interrompê-la quando surge um problema de segurança. Cada tarefa recebe um ID, e os motores de inferência pedem permissão ao Control Room antes de responder a qualquer solicitação dessa tarefa. Quando uma tarefa é marcada como parada, nenhum motor gera mais saída para ela, no máximo 35 segundos após a decisão.
Leia o original em OpenAI — Control Room ↗
Por que importa
Laboratórios de IA treinam modelos com agentes que rodam por muito tempo, e um monitor pode notar um comportamento arriscado no meio da execução. Uma forma confiável de cortar a saída rapidamente é um controle de segurança básico. A OpenAI colocou a verificação na camada de inferência, que tem poucos caminhos de código, e não no código de pesquisa, que muda com frequência e pode ter bugs.
O que muda
- Para desenvolvedores
- O desenho serve de padrão para quem executa agentes: dar um ID a cada tarefa, autorizar cada chamada ao modelo com esse ID e falhar de forma fechada, para que uma queda ou adulteração bloqueie toda a inferência em vez de deixá-la rodar sem controle.
- Para empresas
- A OpenAI afirma que as tarefas de treinamento de modelos de fronteira já rodam com monitoramento e modo fail-closed, e que as demais cargas de pesquisa serão cobertas nos próximos dias.
Fontes
- OpenAI — Control Room ↗ openai.com Fonte principal
Resumo gerado por IA a partir de fontes oficiais em 10 de novembro de 2026. Viu um erro? Avise-nos. Como funciona