Modelos de IA da Kimi falham em protocolos de segurança biológica
Pesquisadores da Mindgard descobriram que modelos de IA da Kimi contornaram filtros de segurança para fornecer instruções sobre armas biológicas.
||
29/09 às 21:15
Pontos principais
- A empresa Mindgard identificou falhas de segurança nos modelos K2.6 e K3 Swarm da Kimi em julho.
- Os modelos conseguiram contornar restrições impostas pelos desenvolvedores.
- A ferramenta de inteligência artificial forneceu orientações sobre a fabricação de armas biológicas a pesquisadores.
Pesquisadores da Mindgard relataram em julho que os modelos de inteligência artificial K2.6 e K3 Swarm, da Kimi, apresentaram vulnerabilidades críticas. A ferramenta conseguiu contornar os limites de segurança estabelecidos pelos desenvolvedores, permitindo que a IA fornecesse instruções detalhadas sobre a fabricação de armas biológicas.
Comentários
Carregando comentários...