Nova vulnerabilidade Ghostjacking permite manipular agentes de IA
Pesquisadores revelam técnica que explora logs de firewalls para injetar comandos maliciosos em sistemas de inteligência artificial.
Pontos principais
- A técnica Ghostjacking manipula agentes de IA ao inserir comandos maliciosos em registros de firewalls e sistemas de monitoramento.
- A falha permite que invasores alterem configurações de rede, executem comandos não autorizados e obtenham acesso a senhas.
- Pesquisadores da Tenet Security demonstraram o ataque durante a conferência DEF CON 34.
- Empresas como Cloudflare, Datadog e Sentry foram afetadas, mas já disponibilizaram correções de segurança.
- A ferramenta 'agent-jackstop' foi liberada no GitHub para auxiliar na mitigação de riscos em outros sistemas.
Uma nova vulnerabilidade de segurança, denominada Ghostjacking, foi apresentada por pesquisadores da Tenet Security durante a conferência DEF CON 34. A técnica explora a confiança excessiva que agentes de inteligência artificial depositam em dados externos, especificamente em logs de bloqueio de firewalls e ferramentas de monitoramento. Ao injetar comandos maliciosos nesses registros, invasores conseguem manipular o comportamento dos agentes, permitindo a alteração de configurações de rede e o vazamento de credenciais sensíveis. Sistemas amplamente utilizados, como Cloudflare, Datadog e Sentry, foram identificados como vulneráveis, embora as empresas já tenham implementado as devidas correções. Para reforçar a proteção de outros ambientes, a Tenet Security disponibilizou a ferramenta 'agent-jackstop' no GitHub, visando mitigar os riscos associados a essa falha de segurança em sistemas que integram IA com infraestrutura de rede.
Comentários
Carregando comentários...