Anthropic identifica uso indevido do Claude para fins bélicos e cibernéticos
Relatório da Anthropic aponta que agentes estatais e hackers usaram o Claude para tentar desenvolver armas, espionagem e campanhas de propaganda.
Pontos principais
- A Anthropic identificou cinco tentativas de uso do Claude para auxiliar no desenvolvimento de armas biológicas.
- Agentes estatais da Rússia, China, Irã e Iêmen utilizaram a IA para fins militares, incluindo drones e mísseis.
- Grupos de hackers, como o Midnight Blizzard, empregaram o modelo para automatizar ataques de phishing e roubo de dados.
- A empresa baniu contas envolvidas em atividades de vigilância, propaganda e desenvolvimento de armamentos.
- O Pentágono suspendeu parcerias com a companhia após divergências sobre o uso da tecnologia em sistemas autônomos.
A Anthropic divulgou um relatório detalhando o uso indevido de seu modelo de inteligência artificial, o Claude, por atores estatais e grupos cibercriminosos entre dezembro de 2025 e agosto de 2026. O documento revela que a tecnologia foi explorada para fins de espionagem, campanhas de propaganda global e tentativas de desenvolvimento de armas biológicas e convencionais, como drones kamikaze e mísseis. Países como Rússia, China, Irã e Iêmen foram citados como origens de atividades que violam as políticas de segurança da empresa.
Em resposta às descobertas, a Anthropic baniu as contas responsáveis e reforçou os mecanismos de proteção de seus modelos para bloquear consultas de alto risco. O caso também gerou tensões institucionais, resultando na suspensão de uma parceria com o Pentágono após a empresa se recusar a permitir o uso do Claude em sistemas de armas autônomas ou vigilância em massa. A companhia ressaltou que os abusos não envolveram seus modelos mais avançados, como o Fable e o Mythos, mantendo o foco na mitigação de riscos de segurança nacional.
Tópicos relacionados
Comentários
Carregando comentários...
