Anthropic identifica uso indevido de IA por atores na China e Rússia
A Anthropic relatou que agentes estrangeiros contornaram restrições de segurança para usar o modelo Claude em atividades maliciosas.
||
10/09 às 14:32
Pontos principais
- Atores na China e na Rússia utilizaram a IA da Anthropic para fins perigosos.
- Usuários contornaram as restrições de segurança impostas pela empresa.
- As atividades incluem pesquisas relacionadas ao desenvolvimento de armas biológicas.
- Cientistas, hackers e serviços de segurança estrangeiros foram identificados como responsáveis.
A Anthropic informou que atores estrangeiros, incluindo hackers e serviços de segurança da China e da Rússia, utilizaram seu modelo Claude para atividades maliciosas. Segundo a empresa, os usuários contornaram as restrições de segurança estabelecidas para a ferramenta. Entre as ações identificadas, destaca-se o uso da tecnologia para pesquisas relacionadas a possíveis armas biológicas.
Comentários
Carregando comentários...