Falha em assistente de IA permitia acesso indevido a dados no SharePoint
Especialista identifica vulnerabilidade em assistente Azure OpenAI que ignorava permissões de usuários ao recuperar arquivos confidenciais.
Pontos principais
- Egiziago Cioffi, CEO da SynSphere Italia, detectou que assistentes de IA acessavam dados restritos do SharePoint sem validação de privilégios.
- O problema ocorria porque o pipeline de recuperação utilizava as credenciais do indexador em vez das permissões do usuário solicitante.
- Testes de avaliação padrão focados em precisão não detectaram a falha, pois não verificavam o controle de acesso aos dados recuperados.
- A vulnerabilidade foi mitigada com a implementação de um filtro de permissões em tempo de consulta.
- Relatórios apontam que falhas de controle de acesso em agentes de IA são sistêmicas e frequentemente levam à exfiltração de dados.
Uma falha de segurança em assistentes de IA baseados no Azure OpenAI expôs dados confidenciais do SharePoint ao ignorar as permissões individuais dos usuários. Identificada por Egiziago Cioffi, CEO da SynSphere Italia, a vulnerabilidade permitia que o sistema de recuperação de informações utilizasse as credenciais do indexador para acessar arquivos, em vez de validar o perfil de quem realizava a consulta. O caso destaca uma lacuna crítica nos testes de avaliação atuais, que priorizam a precisão das respostas em detrimento da governança de dados. Para corrigir o problema, Cioffi implementou um filtro de permissões no caminho da consulta, garantindo que o acesso ao conteúdo seja validado em tempo real. Especialistas alertam que falhas de controle de acesso em agentes de IA representam um risco sistêmico, sendo responsáveis por 91% dos ataques bem-sucedidos de exfiltração de dados em ambientes corporativos.
Tópicos relacionados
Comentários
Carregando comentários...