Microsoft anuncia ferramentas de segurança para monitorar agentes de IA
A Microsoft anuncia controles que tratam agentes de IA como insiders, com permissões concedidas por tarefa e resposta graduada conforme o risco muda.
Pontos principais
- A Microsoft amplia a descoberta para 60 tipos de agentes locais, 35 deles novos, incluindo Claude Code, OpenAI Codex e GitHub Copilot, organizados em um registro unificado.
- A Microsoft introduz Dynamic Permissions: o agente começa sem autoridade, recebe só o acesso da tarefa, pelo tempo que ela durar, e não pode obter o que o usuário não tem.
- O Dynamic Agent Risk recalcula continuamente o risco do agente a partir de identidade, dados, endpoints, nuvem, rede, runtime e da atividade do próprio agente.
- O Dynamic Conditional Access, extensão do Microsoft Entra Conditional Access, responde de forma graduada: de reduzir permissões a isolar o runtime ou parar a execução no risco máximo.
- Playbooks e Guardian Agents no Project Perception executam a contenção em velocidade de máquina, dentro de políticas definidas por pessoas.
- A Microsoft estende o Microsoft Entra Agent ID com novos tipos de identidade para agentes locais e desconhecidos, descobertos por sensores de segurança.
A Microsoft estende o Project Perception, anunciado em julho contra ataques externos, aos agentes de IA que já operam dentro das empresas. Segundo Hayete Gallot, vice-presidente executiva de Segurança, esses agentes são insiders não confiáveis: podem falhar, ser manipulados ou colaborar com outros agentes para atingir objetivos.
Nadim Abdo, vice-presidente corporativo de Identidade e Acesso à Rede, afirma que os controles devem ficar fora do modelo. A Microsoft não informa preço nem data de disponibilidade geral dos recursos.
Fontes primárias
Agents are your newest insiders. Security must move at their speed.
Post de Nadim Abdo, vice-presidente corporativo de Identidade e Acesso à Rede da Microsoft, sobre agentes de IA como risco de insider. Anuncia: expansão da descoberta para 60 tipos de agentes locais (35 novos, incluindo Claude Code, OpenAI Codex e GitHub Copilot), organizados em um registro unificado; novos tipos de identidade no Microsoft Entra Agent ID para agentes descobertos por sensores; Dynamic Permissions, pelas quais o agente começa sem autoridade e recebe só o acesso da tarefa, por prazo determinado, dentro do limite do que o usuário já tem; e Dynamic Agent Risk e Dynamic Conditional Access, que reagem em graus (preservar leitura e bloquear escrita, restringir recursos, exigir aprovação humana verificável ou isolar e parar o runtime em risco máximo). O texto afirma que o modelo não deve ser a própria fronteira de segurança: os controles ficam fora dele, com a execução em sandbox como o Microsoft Execution Container (MXC).
Securing the agentic insider
Texto de Hayete Gallot, que lidera o trabalho da Microsoft de segurança para organizações em um mundo movido por IA. Afirma que agentes são insiders não confiáveis, que podem falhar, ser manipulados ou colaborar com outros agentes sem comprometimento, e propõe Guardian Agents, termo da indústria, que supervisionem cada ação de cada agente antes que aconteça. Estende o Project Perception, anunciado em julho, a agentes internos: sensores, sinais e atuadores do cyber stack descobrem agentes e atribuem identidade, contêiner e política; o risco dinâmico do agente é calculado a partir do contexto; e equipes de Guardian Agents verdes e azuis supervisionam em tempo real, com rastreabilidade para os profissionais revisarem o que aconteceu. Diz que a transparência do modelo, incluindo tokens de raciocínio, deve virar evidência adicional, sem substituir a contenção. Afirma que já é possível começar com o Project Perception.
Tópicos relacionados
Cobertura da mídia
@satyanadella: I recently wrote about why we need to treat models as insider risks, with security controls sitting outside the model itself.
x.com • 19 out, 10:05
Microsoft unveils new security tools in its 365 E7 bundle and Project Perception system to treat AI agents as potential insider threats via risk assessments (Todd Bishop/GeekWire)
Techmeme • 19 out, 10:25
Comentários
Carregando comentários...