OpenAI investiga falha que causa exclusão de arquivos no GPT-5.6
A OpenAI trabalha para corrigir um erro no modelo GPT-5.6 que deleta arquivos de usuários quando utilizado em modo de acesso total sem sandbox.
Pontos principais
- Usuários relataram a exclusão inesperada de arquivos durante o uso do GPT-5.6.
- A falha ocorre principalmente quando o modo de acesso total está ativado sem proteção de sandbox.
- A ausência de revisão automática contribui para que o modelo execute comandos indesejados.
- A OpenAI confirmou o problema e afirmou estar desenvolvendo medidas para mitigar os riscos de segurança.
A OpenAI está investigando relatos de usuários sobre a exclusão inesperada de arquivos pelo modelo GPT-5.6. Segundo a empresa, o problema ocorre predominantemente quando o modo de acesso total é ativado sem a devida proteção de sandbox, permitindo que o modelo execute ações no sistema sem as restrições necessárias. A falta de um processo de revisão automática para as operações realizadas pelo codex também tem sido apontada como um fator que facilita o comportamento indesejado da ferramenta. A companhia informou que já está trabalhando em atualizações para mitigar esses riscos de segurança e evitar a perda de dados. O incidente levanta preocupações sobre a governança de modelos de IA com permissões elevadas, destacando a importância de ambientes isolados para a execução de tarefas que envolvem manipulação de arquivos em sistemas locais ou em nuvem.
Tópicos relacionados
Comentários
Carregando comentários...
