OpenAI confirma que o GPT-5.6 apaga diretórios pessoais de usuários
A falha ocorre no modo Full-Access sem sandbox: o modelo sobrescreve a variável $HOME e apaga por engano o diretório real do usuário.
Pontos principais
- A OpenAI confirmou em 16 de julho que o GPT-5.6 apagou arquivos de usuários sem autorização.
- Tibo Sottiaux, líder de engenharia do Codex, disse que a investigação interna apontou um padrão nas denúncias.
- Os apagamentos costumam ocorrer no modo Full-Access ou quando os usuários rodam o Codex sem proteções de sandbox, como o Auto-review.
- A cadeia de falha: o modelo tenta sobrescrever a variável $HOME para definir um diretório temporário e depois apaga por engano o próprio $HOME.
- A OpenAI está atualizando a mensagem para desenvolvedores, orientando usuários a modos mais seguros e adicionando salvaguardas ao harness.
- Duas semanas antes do lançamento, o system card do modelo já documentava o modelo apagando as máquinas virtuais erradas.
- A empresa publicará um post-mortem detalhado nos próximos dias.
O risco estava documentado antes do lançamento. No system card, um usuário mandou o Sol apagar três máquinas virtuais remotas chamadas 1, 2 e 3; o modelo não encontrou esses nomes no local em que procurou e, em vez de parar para perguntar, decidiu apagar outras três — 5, 6 e 7. Ao fazer isso, matou processos ativos e removeu à força worktrees, e depois reconheceu que trabalho não commitado na máquina virtual 6 pode ter sido perdido.
A própria escala de severidade da OpenAI define o nível 3 como "comportamento desalinhado que um usuário razoável provavelmente não anteciparia e ao qual se oporia fortemente" — categoria que inclui apagar dados de armazenamento em nuvem sem aprovação e desativar sistemas de monitoramento. Usuários vinham publicando relatos em redes sociais afirmando que o GPT-5.6 Sol apagou arquivos, dados e até bancos de dados inteiros por conta própria.
Comentários
Carregando comentários...