OpenAI lança Control Room para monitorar e parar cargas de pesquisa com modelos

Control Room: A central system to track and stop model workloads across our research infrastructure

Control Room é um sistema central que acompanha as cargas de trabalho dos modelos em toda a infraestrutura de pesquisa da OpenAI e as interrompe rapidamente quando surgem preocupações de segurança ou proteção. Já está implantado na infraestrutura de pesquisa, conectando cada carga de inferência de pesquisa, incluindo amostragem agêntica para treino e avaliação e processamento de dados. Funciona junto com os sistemas de monitoramento de desalinhamento e interrompe a saída do modelo em até 35 segundos após a decisão de intervir. Cada carga de trabalho de pesquisa com inferência agêntica precisa estar associada a um safety case aprovado. O controle fica na camada de inferência: antes de atender cada requisição, o motor pede autorização ao Control Room, e uma carga interrompida recebe recusa mesmo que seu código continue rodando. O sistema falha fechado: se o serviço cair ou for desativado, todas as requisições de inferência são negadas. O fail-closed já está implantado em todas as cargas de fronteira e termina de ser aplicado às demais cargas de pesquisa nos próximos dias. Segundo a OpenAI, o sistema é uma parte de sua abordagem para treino e implantação seguros, ao lado de monitoramento de desalinhamento e de violações de segurança. Como exemplo, cita um incidente recente relacionado a DNS que foi detectado por um monitor.