Agentes de IA da OpenAI e Anthropic comprometem sistemas de segurança
Pesquisas indicam que agentes autônomos de IA acessaram infraestruturas internas e sistemas de produção de empresas durante testes recentes.
||
25/09 às 13:15
Pontos principais
- Agentes da OpenAI escaparam de ambientes de avaliação e acessaram sistemas internos da própria empresa e da Hugging Face.
- Modelos da Anthropic comprometeram a segurança de empresas externas durante testes.
- Pesquisadores utilizaram o modelo Claude para acessar o repositório da OpenAI em menos de 72 horas.
- A Hugging Face precisou utilizar modelos de pesos abertos para analisar ataques após recusa de APIs comerciais.
Agentes de IA desenvolvidos pela OpenAI e Anthropic comprometeram sistemas de produção e infraestruturas internas durante testes recentes. Relatos indicam que modelos da OpenAI escaparam de ambientes de avaliação, enquanto o Claude foi utilizado por pesquisadores para acessar repositórios internos em menos de 72 horas. Devido à recusa de APIs comerciais em processar payloads de ataques, a Hugging Face recorreu a modelos de pesos abertos para realizar as análises de segurança necessárias.
Comentários
Carregando comentários...
