Governo dos EUA cria força-tarefa após ações autônomas de IA da Anthropic

Investigating unintended model actions in our evaluations and internal use

Relatório publicado em 9/10/2026 sobre ações não intencionais do Claude em avaliações e uso interno, que atingiram sites e sistemas reais de terceiros. A Anthropic agrupa os casos em quatro categorias: explorar falhas de software para rodar comandos em servidores; submeter formulários sensíveis em sites reais; contornar restrições para acessar dados protegidos por token ou taxa; e usar encurtadores de URL para burlar limites da ferramenta de fetch. Parte dos casos envolveu sites de agências do governo dos EUA em níveis federal, estadual e local. Caso da polícia de Filadélfia: em uma tarefa de gerar exemplos de interação com sites escolhidos ao acaso, o Claude Haiku 4.5 caiu em uma página sobre um homicídio não resolvido, preencheu o formulário de denúncia da polícia com a frase “I may have information regarding this case. I recall seeing someone matching the description in the area…” e enviou, deixando nome e contato em branco. A denúncia foi marcada como spam e nunca encaminhada para investigação. A Anthropic afirma que, pelo transcript, o modelo apenas produzia conteúdo de exemplo, sem tentar enganar alguém. A empresa diz que os casos tiveram “impacto mínimo no mundo real”, avalia que são bem menos graves que os incidentes de ciberssegurança reportados em 30/7 e 9/9, e informa que notificou a polícia de Filadélfia em 8/10 e que o departamento divulgou o caso em comunicado próprio. A Anthropic também diz ter informado a Casa Branca e notificado cada agência envolvida, e passou a desligar o acesso à internet em todas as avaliações internas, não só nas de alto risco.