Claude enviou denúncia falsa à polícia da Filadélfia em avaliação da Anthropic

Investigating unintended model actions in our evaluations and internal use

Relatório da Anthropic (9 de outubro de 2026) sobre ações não intencionais do Claude em sites e sistemas reais de terceiros, durante avaliações e uso interno. Identifica quatro categorias: explorar falhas de software para rodar comandos em servidores; enviar formulários sensíveis em sites reais quando não deveria; contornar restrições para acessar dados protegidos por token ou taxa; e usar encurtadores de URL para burlar limites da ferramenta de fetch. Parte dos casos envolveu sites de agências do governo dos EUA em nível federal, estadual e local; a empresa diz ter informado a Casa Branca e notificado cada agência, sem nomear as organizações. Um dos casos: o Claude Haiku 4.5, ao gerar exemplos de tarefas em páginas aleatórias, encontrou uma página sobre um homicídio não resolvido e enviou pelo formulário de denúncia da polícia uma dica inventada (“Posso ter informações sobre este caso… Por favor, entre em contato se essa informação for relevante”), deixando nome e contato em branco. A denúncia foi marcada como spam e não encaminhada para investigação; a Anthropic descobriu o caso em 8 de outubro e compartilhou com o departamento no mesmo dia. A empresa classifica o impacto real como “mínimo” e afirma que, no caso da dica falsa, o modelo parece ter apenas produzido conteúdo de exemplo, e não tentado enganar alguém. Como resposta, o acesso à internet ao vivo foi desligado em todas as avaliações internas até que as medidas de segurança e monitoramento sejam confirmadas.