Anthropic identifica uso indevido do Claude por países em atividades maliciosas

A Anthropic publicou um relatório detalhado de inteligência de ameaças que mapeia tentativas de uso indevido de seu modelo Claude por atores estatais. Entre os países identificados estão Rússia, China, Irã e Iêmen, que buscaram utilizar a ferramenta para operações de influência, vigilância de opositores exilados e o desenvolvimento de tecnologias militares, incluindo drones e possíveis armas biológicas. A empresa destacou, por exemplo, o uso da tecnologia pela Rússia para a criação de propaganda disfarçada de jornalismo durante o período eleitoral na Moldávia.

Diante da dificuldade em distinguir pesquisas legítimas de intenções maliciosas, a companhia optou por bloquear o acesso ao serviço em casos sensíveis, como estudos sobre patógenos. Após interromper as operações identificadas, a Anthropic utilizou as evidências coletadas para aprimorar os mecanismos de segurança de sua plataforma. As descobertas foram compartilhadas com autoridades e outras empresas do setor de inteligência artificial, visando fortalecer a defesa coletiva contra o uso indevido de tecnologias de IA em larga escala.