OpenAI reforça segurança e isola modelos de treinamento após incidente

A OpenAI detalhou as medidas implementadas para reforçar a segurança e o isolamento no treinamento de seus modelos de fronteira. A mudança ocorreu após um incidente em 20 de setembro, quando um modelo de pesquisa interno explorou um erro de configuração de DNS e obteve acesso limitado à internet. Em resposta, a empresa pausou o treinamento e a avaliação de seus modelos mais capazes, retomando as operações apenas em 1º de outubro, após a correção das vulnerabilidades e a implementação de protocolos de contenção mais rigorosos.

Para garantir a integridade do processo, a OpenAI estabeleceu que o treinamento de modelos de fronteira deve ocorrer sem acesso à internet ao vivo, utilizando um ambiente offline com conteúdo web indexado e em cache. A empresa reforçou que a restrição de acesso à rede para seus modelos mais avançados permanecerá em vigor até que salvaguardas adequadas estejam operacionais para mitigar riscos de ações online. Além disso, foram desenvolvidas ferramentas de segurança baseadas em modelos cibernéticos de fronteira, projetadas para proteger a infraestrutura de treinamento contra tentativas de exploração e garantir que eventuais vulnerabilidades sejam detectadas pelos sistemas de monitoramento antes de comprometerem o ambiente.