Pesquisa da Tracebit usa 'bombas de contexto' contra agentes de IA
Técnica de segurança utiliza injeção de prompt defensiva para travar agentes autônomos de ataque ao acessar recursos-chamariz em ambientes AWS.
Pontos principais
- A técnica 'context bomb' consiste em inserir textos sensíveis em recursos-chamariz para acionar guardrails de segurança de agentes de IA.
- Testes realizados com 152 execuções em ambientes AWS demonstraram uma redução drástica na eficácia de ataques autônomos.
- A taxa de sucesso para obter acesso de administrador caiu de 57% para 5% após a implementação das bombas de contexto.
- Modelos ocidentais, como Claude Opus 4.8 e Gemini 3.1 Pro, foram bloqueados por conteúdos sobre temas biológicos perigosos.
- Modelos chineses, como GLM 5.2 e Kimi K2.6, foram neutralizados ao encontrar referências a tópicos politicamente sensíveis na China.
- A pesquisa utilizou modelos de fronteira acessados via plataformas como OpenRouter para simular cenários de invasão corporativa.
Pesquisadores da empresa de segurança Tracebit desenvolveram uma nova abordagem defensiva para mitigar ameaças de agentes de IA autônomos, invertendo a lógica da injeção de prompt. Em vez de tentar sequestrar o agente, a estratégia consiste em plantar 'canaries' — recursos falsos ou segredos no AWS Secrets Manager — contendo instruções curtas projetadas para disparar os mecanismos de segurança nativos dos modelos de IA. Ao lerem o conteúdo, os agentes interpretam o texto como uma violação de suas políticas de uso, o que interrompe a execução do ataque antes que o objetivo final seja alcançado.
Os testes, divulgados em julho de 2026, avaliaram cinco modelos de linguagem de ponta em um ambiente AWS simulado com dez caminhos de ataque distintos. Os resultados indicaram que a eficácia da técnica depende da adequação do conteúdo ao modelo: enquanto temas biológicos sensíveis foram eficazes contra modelos ocidentais, referências a tópicos políticos sensíveis na China foram necessárias para bloquear modelos chineses. Embora a técnica tenha se mostrado robusta, os pesquisadores ressaltam que o método ainda precisa ser validado contra modelos 'abliterated', que possuem as proteções de segurança removidas propositalmente.
Comentários
Carregando comentários...