Mulher é presa na Flórida após IA denunciar ameaças a xerife
Sistema de segurança da Anthropic identificou ameaças de ataque feitas por uma usuária ao Gabinete do Xerife do Condado de Lee durante uso do Claude.
Pontos principais
- Carli Michelle Heller foi detida em Bonita Springs por ameaças de violência por escrito.
- A suspeita utilizava o chatbot Claude como um diário pessoal para registrar seus planos.
- O sistema de monitoramento da Anthropic detectou as mensagens e acionou as autoridades após análise humana.
- Heller afirmou ao chatbot ter comprado uma arma para atacar o Gabinete do Xerife do Condado de Lee.
Uma mulher identificada como Carli Michelle Heller foi presa em Bonita Springs, na Flórida, após o sistema de segurança da empresa Anthropic denunciar ameaças de violência feitas por ela. A suspeita utilizava o chatbot Claude como um diário pessoal, onde registrou planos de atacar o Gabinete do Xerife do Condado de Lee em setembro deste ano. Após identificar o conteúdo, a empresa realizou uma análise humana e reportou o caso às autoridades locais.
O xerife Carmine Marceno confirmou a detenção e ressaltou que a tecnologia não garante anonimato aos usuários. A prisão ocorreu sem incidentes, e o caso serve como um alerta sobre o monitoramento de segurança em plataformas de inteligência artificial. A Anthropic mantém protocolos rigorosos para detectar comportamentos perigosos em interações com seus modelos de linguagem, visando prevenir a concretização de ameaças reais.
Cobertura da mídia
Comentários
Carregando comentários...