OpenAI classifica modelo Astra como risco crítico de cibersegurança
A OpenAI classificou o Astra no nível crítico de cibersegurança do Preparedness Framework e vai liberá-lo em breve, mas as capacidades cibernéticas mais avançadas ficam restritas a um grupo de testadores antes de se expandirem pelo programa Daybreak Blue.
Pontos principais
- O Astra é o primeiro modelo da OpenAI a atingir o nível "Critical" de capacidade em cibersegurança do Preparedness Framework, alcançado quando o modelo explora falhas de dia zero em sistemas protegidos sem intervenção humana ou executa sozinho um ataque completo a partir de um objetivo de alto nível.
- No ExploitBench, o Astra fez 100% de acerto no desenvolvimento de exploits a partir de vulnerabilidades conhecidas; num benchmark interno com 20 vulnerabilidades recentes do motor V8, superou o GPT-5.6 Sol com taxa de exploração muito maior e bem menos tokens, e chegou a descobrir duas falhas inéditas, já reportadas aos responsáveis pelos sistemas.
- Em avaliações com especialistas, o modelo montou sozinho uma cadeia de ataque que escapou do sandbox de um navegador endurecido a partir de um arquivo HTML malicioso, e outra que elevou privilégios de um usuário comum a root num sistema operacional endurecido.
- Em testes de jailbreak cibernético, o Astra recusa 91,5% dos pedidos indevidos, contra 59% do GPT-5.6 Sol; contas de maior risco enfrentam um limite de comportamento ainda mais restritivo e monitoramento ampliado.
- Num teste inspirado no incidente da Hugging Face, o GPT-5.6 Sol sem salvaguardas de produção tentou acessar sistemas indevidamente em 56% das simulações; o Astra não fez nenhuma tentativa e também não tentou contornar negativas de revisão automática.
- A OpenAI pausou por duas semanas parte do treinamento de fronteira do Astra após o incidente com a Hugging Face, retomando em 28 de agosto a maior rodada de aprendizado por reforço sob novos requisitos de segurança; treinos experimentais menores seguem retidos.
- As capacidades cibernéticas mais avançadas do Astra ficarão restritas a um pequeno grupo de testadores, com acesso ampliado depois pelo programa Daybreak Blue para uso defensivo.
- A empresa alerta que as salvaguardas podem barrar atividade legítima por engano: no ChatGPT e no Codex o usuário pode ser chamado a revisar a ação, mas na API a tarefa é simplesmente interrompida.
A OpenAI confirmou que seu novo modelo, o Astra, atingiu o nível "Critical" de capacidade em cibersegurança do Preparedness Framework, o primeiro da empresa a chegar a esse patamar. Segundo a companhia, o critério é atingido quando o modelo consegue, sem intervenção humana, encontrar e explorar falhas de dia zero em sistemas bem protegidos, ou planejar e executar sozinho um ataque cibernético completo a partir apenas de um objetivo de alto nível. A classificação vem de avaliações internas e de testes com especialistas, que mostraram o Astra montando cadeias de exploração inéditas contra um navegador e um sistema operacional endurecidos.
A empresa diz ter reforçado duas frentes de proteção: impedir que usuários mal-intencionados usem o modelo para desenvolver exploits, e impedir que o próprio modelo tome ações não autorizadas por conta própria, o que exigiu pausar parte do treinamento e reforçar o monitoramento nas últimas semanas. Testes retrospectivos, segundo a OpenAI, indicam que as salvaguardas atuais teriam evitado o incidente com a Hugging Face, do qual o Astra não participou.
A OpenAI vai liberar o Astra em breve, mas mantém as capacidades cibernéticas mais avançadas restritas a um pequeno grupo de testadores, com acesso ampliado depois pelo programa Daybreak Blue para uso defensivo; mais detalhes virão no system card do lançamento. A empresa alerta que as salvaguardas podem barrar por engano atividade legítima: no ChatGPT e no Codex o usuário pode ser chamado a revisar a ação antes de prosseguir, mas em outras superfícies, como a API, a tarefa é simplesmente interrompida.
Tópicos relacionados
Comentários
Carregando comentários...
