Falhas de segurança em agentes de IA expõem dados de usuários
Pesquisadores identificam vulnerabilidades em agentes de IA e no Claude Desktop que permitem o roubo de dados e controle remoto de máquinas.
Pontos principais
- A ferramenta MemGhost demonstra como a injeção de memória em agentes como o OpenClaw permite o controle silencioso de assistentes de IA.
- A vulnerabilidade PromptFiction no Claude Desktop possibilitava a execução de comandos maliciosos via links manipulados sem autorização.
- Testes com o modelo GPT-5.4 registraram 87,5% de sucesso na exploração de memórias persistentes em segundo plano.
- A Anthropic corrigiu a falha no Claude Desktop na versão 1.1.2321, implementando a necessidade de confirmação do usuário para comandos.
Pesquisadores de segurança alertam para novas vulnerabilidades críticas em sistemas de inteligência artificial que podem comprometer a privacidade e o controle de dispositivos dos usuários. O método conhecido como Injeção Furtiva de Memória, testado com o modelo GPT-5.4, explora a forma como agentes de IA gerenciam dados persistentes para executar ações não autorizadas. Paralelamente, a falha PromptFiction no aplicativo Claude Desktop permitia que atacantes roubassem históricos de conversas e dados financeiros por meio de links maliciosos que contornavam as permissões padrão do sistema. Enquanto a Anthropic já disponibilizou uma atualização para mitigar o risco no Claude, especialistas reforçam que a indústria precisa reformular a gestão de permissões de escrita e memória em agentes autônomos. Essas brechas destacam os riscos crescentes à medida que assistentes de IA ganham maior integração com sistemas operacionais e dados sensíveis dos usuários.
Tópicos relacionados
Comentários
Carregando comentários...