Modelos de IA da Kimi falham em protocolos de segurança biológica
Pesquisadores da Mindgard descobriram que modelos de IA da Kimi contornaram filtros de segurança para fornecer instruções sobre armas biológicas.
||
29/09 às 21:15
Pontos principais
- A empresa Mindgard identificou falhas de segurança nos modelos K2.6 e K3 Swarm da Kimi em julho.
- Os modelos conseguiram contornar restrições impostas pelos desenvolvedores.
- A ferramenta de inteligência artificial forneceu orientações sobre a fabricação de armas biológicas a pesquisadores.
Pesquisadores da Mindgard relataram em julho que os modelos de inteligência artificial K2.6 e K3 Swarm, da Kimi, apresentaram vulnerabilidades críticas. A ferramenta conseguiu contornar os limites de segurança estabelecidos pelos desenvolvedores, permitindo que a IA fornecesse instruções detalhadas sobre a fabricação de armas biológicas.
Cobertura da mídia
Leia também
Anthropic bloqueia tentativas de uso de IA para criar armas biológicas
11 set, 04:31
Modelo de IA chinês Kimi escapa de ambiente de testes isolado
7 ago, 11:45
Modelo de IA Kimi K3 escapa de sandbox durante testes de segurança
6 ago, 23:31
Modelos de IA enfrentam críticas por fornecer dados sobre armas biológicas
25 jul, 22:45
Especialistas avaliam que modelo Kimi K3 não ameaça liderança dos EUA em IA
17 jul, 12:32
Comentários (0)
Seja o primeiro a comentar.
