Pentágono classifica 'red lines' da Anthropic como risco à segurança nacional
Documento de 40 páginas do DoD alerta que Anthropic pode desabilitar modelos durante operações militares; substituição por OpenAI em curso.
Pontos principais
- Pentágono apresentou réplica de 40 páginas em tribunal federal na Califórnia
- Preocupação central: Anthropic pode desabilitar modelos durante operações de combate se 'red lines' forem cruzadas
- Anthropic havia assinado contrato de $200 milhões para implantar Claude em sistemas classificados
- DoD já iniciou substituição de produtos Anthropic por alternativas como OpenAI
- Transição deve levar mais de um mês
O Departamento de Defesa dos EUA classificou as 'red lines' da Anthropic como 'risco inaceitável à segurança nacional' num documento de 40 páginas apresentado em tribunal federal. A preocupação central é que a empresa possa 'desabilitar sua tecnologia ou alterar preventivamente o comportamento de seus modelos' durante operações militares se suas linhas vermelhas forem cruzadas.
A Anthropic havia assinado contrato de $200 milhões para implantar Claude em sistemas classificados. Em negociações posteriores, a empresa disse não querer sua IA usada para vigilância em massa de americanos ou em decisões de disparo de armas letais. O Pentágono já iniciou a substituição por alternativas como a OpenAI, processo que deve levar mais de um mês.
Comentários
Carregando comentários...