Daily Journal
Daily Journal

Microsoft identifica vulnerabilidade de backdoor em agentes de IA

Pesquisadores da Microsoft descobriram que a reprogramação de neurônios dormentes pode criar backdoors ativados por gatilhos em agentes de IA.

Daily Journal
Foto: x.com
||
10/11 às 20:45

Pontos principais

  • A técnica permite que agentes de IA operem normalmente até que um gatilho específico ative o comportamento malicioso.
  • A Microsoft recomenda a verificação rigorosa da procedência de modelos e o gerenciamento estrito de permissões.
  • Ferramentas de segurança estão disponíveis no Microsoft Foundry para modelos hospedados no Azure e Hugging Face.
  • Diretrizes de mitigação foram publicadas pela Microsoft Threat Intelligence para auxiliar empresas e usuários.

Pesquisadores da Microsoft Research demonstraram que a reprogramação de neurônios dormentes em agentes de IA pode criar backdoors ativados por gatilhos específicos. O comportamento do agente permanece normal até que o gatilho seja acionado. Para mitigar riscos, a empresa recomenda verificar a procedência dos modelos e gerenciar permissões rigorosamente.

Sistemas de segurança adicionais estão disponíveis no Microsoft Foundry para modelos hospedados no Azure e no Hugging Face, acompanhados de orientações da Microsoft Threat Intelligence.

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.