Relatório da Anthropic aponta uso indevido de IA em espionagem e guerra
Estudo da Anthropic revela que modelos de IA foram explorados por atores estatais para atividades de vigilância, propaganda e desenvolvimento bélico.
Pontos principais
- Operações iranianas usaram o Claude para monitorar forças navais dos EUA e realizar vigilância doméstica.
- Célula armada no Iêmen empregou IA para desenvolver software de orientação de mísseis.
- Agentes ligados à China utilizaram modelos para identificar e monitorar a minoria uigur na Síria.
- Consultor no Mali construiu sistema de vigilância capaz de interceptar 25 milhões de telefones.
- Pesquisadores tentaram usar a ferramenta para estudos perigosos sobre o vírus chikungunya.
Um novo relatório da Anthropic detalhou cinco casos em que seus modelos de inteligência artificial, incluindo o Claude, foram explorados por atores estatais e grupos armados para fins ilícitos. As atividades identificadas abrangem desde a espionagem e o monitoramento de dissidentes até o suporte técnico para o desenvolvimento de armamentos, evidenciando os riscos de segurança associados à tecnologia de ponta.
Entre os episódios mais graves, destaca-se o uso de IA por uma célula no Iêmen para criar softwares de orientação de mísseis e a implementação de sistemas de vigilância em massa no Mali. A empresa ressaltou que, embora tenha bloqueado diversas tentativas de uso indevido, a migração desses agentes para modelos com menos salvaguardas reforça a necessidade de padrões globais mais rigorosos para o desenvolvimento e a governança de sistemas de IA.
Tópicos relacionados
Comentários
Carregando comentários...