Modelo de IA da Anthropic invade sistemas da NSA em horas
O modelo Mythos, da Anthropic, comprometeu sistemas classificados da NSA e do Cyber Command dos EUA durante um teste de segurança controlado.
Pontos principais
- O senador Mark Warner relatou que o modelo Mythos acessou sistemas classificados em horas, e não semanas.
- A invasão ocorreu durante um exercício de red-team autorizado para testar vulnerabilidades de segurança.
- O modelo identificou milhares de falhas 'zero-day', incluindo uma vulnerabilidade de 27 anos no OpenBSD.
- O governo Trump proibiu o acesso de estrangeiros aos modelos Mythos 5 e Fable 5 logo após o episódio.
- A restrição de exportação impactou parceiros da aliança Five Eyes e institutos de segurança internacionais.
- A Anthropic contesta a proibição, argumentando que o bloqueio é uma reação desproporcional a um jailbreak pontual.
O modelo de inteligência artificial Mythos, desenvolvido pela Anthropic, demonstrou capacidade de penetrar sistemas classificados da Agência de Segurança Nacional (NSA) e do Comando Cibernético dos EUA em poucas horas. O feito foi revelado pelo senador Mark Warner, vice-presidente do Comitê de Inteligência do Senado, com base em um relato do general Joshua Rudd. A demonstração ocorreu em um ambiente de teste controlado, conhecido como red-team, validando o alto potencial ofensivo do modelo na identificação de vulnerabilidades complexas em infraestruturas críticas.
O incidente coincidiu com uma mudança na postura da administração Trump, que impôs restrições severas ao uso dos modelos Mythos 5 e Fable 5 por estrangeiros, citando riscos de segurança nacional. A medida, que também afetou aliados internacionais, gerou críticas de líderes do setor de tecnologia, que alertam para os impactos negativos na pesquisa e desenvolvimento de cibersegurança. Atualmente, a Anthropic e a Casa Branca negociam um novo arcabouço de gestão de riscos para normalizar o acesso às ferramentas.
Tópicos relacionados
Comentários
Carregando comentários...