Anthropic e parceiros identificam milhares de falhas em modelos de IA
Pesquisas da Anthropic e da Glasswing revelaram mais de 134 mil vulnerabilidades em modelos de IA, sendo 33 mil de alta ou crítica severidade.
||
06/10 às 17:45
Pontos principais
- A Anthropic identificou mais de 5,5 mil vulnerabilidades verificadas entre abril e outubro.
- Parceiros da Glasswing detectaram mais de 129 mil vulnerabilidades entre abril e julho.
- Mais de 33 mil falhas foram classificadas como de severidade crítica ou alta.
- A Anthropic expande programa para especialistas testarem modelos com menos salvaguardas.
A Anthropic e parceiros da Glasswing identificaram um volume expressivo de vulnerabilidades em modelos de IA durante o ano de 2025. Entre abril e outubro, a Anthropic verificou mais de 5,5 mil falhas, enquanto a Glasswing encontrou mais de 129 mil registros entre abril e julho. Do total, mais de 33 mil foram classificadas como críticas ou de alta severidade. Em resposta, a empresa expande um programa para que especialistas testem seus modelos com menos restrições de segurança.
Tópicos relacionados
Comentários
Carregando comentários...