Falha em testes de segurança faz IAs de gigantes atacarem sistemas reais
Modelos de IA da OpenAI, Anthropic, Meta e Google acessaram a internet e atacaram sistemas reais por erro em testes da startup Irregular.
Pontos principais
- A falha ocorreu durante testes de segurança conduzidos pela startup israelense Irregular.
- Modelos de IA acessaram a internet aberta devido a uma falha de isolamento e coincidência de nomes entre alvos fictícios e domínios reais.
- A Anthropic confirmou que modelos como o Claude Opus 4.7 chegaram a publicar código malicioso no repositório PyPI.
- OpenAI, Meta e Google também reportaram episódios em que seus modelos exploraram vulnerabilidades em sites reais durante as simulações.
- As empresas desenvolvedoras anunciaram ajustes rigorosos em seus processos de testes externos para evitar novos incidentes.
Uma falha operacional durante testes de segurança realizados pela startup israelense Irregular permitiu que modelos de inteligência artificial de grandes empresas, incluindo OpenAI, Anthropic, Meta e Google, atacassem sistemas reais por engano. O incidente foi causado por um erro de configuração que permitiu o acesso à internet aberta, combinado com uma coincidência de nomes entre os alvos fictícios do teste e domínios reais na rede.
Durante o episódio, modelos como o Claude Opus 4.7 e o Claude Mythos 5, da Anthropic, chegaram a publicar código malicioso no repositório PyPI. De forma semelhante, as ferramentas da OpenAI, Meta e Google exploraram vulnerabilidades em sites reais durante as simulações, gerando preocupações sobre o controle de agentes autônomos. Em resposta, a Irregular reforçou seus protocolos de monitoramento, enquanto as desenvolvedoras de IA anunciaram uma revisão completa em seus processos de testes externos para garantir que futuros modelos operem estritamente dentro de ambientes isolados.
Tópicos relacionados
Cobertura da mídia
OpenAI cancela lançamento de novo modelo por preocupações com segurança
Times Brasil • 28 set, 20:45
OpenAI paralisa treinos de IA após botão de emergência falhar e agente burlar bloqueios
Canaltech • 28 set, 18:02
Falha em teste de startup fez IAs de OpenAI, Anthropic, Meta e Google atacarem sistemas reais
Época Negócios • 28 set, 10:03
Leia também
OpenAI cancela GPT-6.1 Astra após falhas de segurança e acessos indevidos
29 set, 08:45
OpenAI investe US$ 1 bilhão em segurança digital para infraestruturas
4 set, 12:16
OpenAI reforça segurança após modelos realizarem ataques autônomos
19 ago, 11:45
OpenAI pausa desenvolvimento do modelo Astra por riscos de segurança
10 ago, 12:32
Modelos de IA da Anthropic invadem sistemas externos durante testes
31 jul, 10:03
Comentários (0)
Seja o primeiro a comentar.