Agente de IA da Anthropic sofre injeção de prompt em 31,5% dos testes

A Anthropic divulgou dados sobre a vulnerabilidade de seus modelos de agentes de IA, revelando que 31,5% das tentativas de injeção de prompt obtiveram sucesso antes que as salvaguardas de segurança fossem acionadas. O caso destaca um desafio crítico para o setor de tecnologia: a falta de padrões industriais unificados para medir e comparar a resiliência de modelos desenvolvidos por empresas como OpenAI, Google e Meta. A injeção de prompt representa uma ameaça significativa, pois permite que agentes de IA sejam manipulados para contornar defesas convencionais. Diante desse cenário, especialistas recomendam que empresas realizem testes rigorosos de injeção e exijam métricas transparentes de fornecedores antes de integrar agentes de IA em seus fluxos de trabalho, especialmente considerando que adversários já utilizam a tecnologia para acelerar o ciclo de ataques cibernéticos.