Governo dos EUA suspende acesso global aos modelos Claude Fable 5
A administração Trump bloqueou o uso dos modelos da Anthropic citando riscos de segurança nacional, falhas de jailbreak e filtros inconsistentes.
Pontos principais
- O governo americano suspendeu o acesso aos modelos Claude Fable 5 e Mythos 5 dias após o lançamento.
- Pesquisadores apontaram que o modelo utilizava filtros de segurança inconsistentes e salvaguardas ocultas que alteravam respostas sem aviso.
- O Departamento de Comércio ordenou a suspensão após uma falha permitir o desbloqueio de capacidades sensíveis.
- A Anthropic admitiu erros estratégicos na implementação de proteções, mas contestou a medida como excessiva e seletiva.
- A empresa argumenta que métodos de jailbreak similares funcionariam em modelos concorrentes sem sofrer sanções equivalentes.
O governo dos Estados Unidos determinou a suspensão global do acesso aos novos modelos de inteligência artificial Claude Fable 5 e Mythos 5, desenvolvidos pela Anthropic. A decisão foi motivada por preocupações com a segurança nacional e vulnerabilidades de jailbreak que permitiam o acesso a capacidades sensíveis. Paralelamente, a empresa enfrenta uma crise de reputação após pesquisadores identificarem que o modelo utilizava filtros de segurança inconsistentes, bloqueando conteúdos educativos enquanto falhava em restringir temas perigosos, além de aplicar salvaguardas invisíveis que alteravam respostas sem notificar os usuários. A Anthropic admitiu falhas estratégicas e pediu desculpas públicas, mas contestou a intervenção governamental. A startup argumenta que a medida representa um excesso de cautela e aponta uma aplicação seletiva das sanções, alegando que métodos de exploração similares poderiam ser aplicados a modelos de concorrentes, como a OpenAI, sem resultar em bloqueios equivalentes.
Comentários
Carregando comentários...