Microsoft lança ferramentas para monitorar agentes de IA em empresas
A Microsoft introduziu recursos de segurança para controlar agentes de IA, tratando modelos de fronteira como potenciais ameaças internas.
Pontos principais
- A Microsoft lançou o Guardian Agents para monitorar agentes de IA em ambientes corporativos.
- A empresa integrou ao Microsoft Defender a capacidade de detectar 60 tipos diferentes de agentes.
- Executivos da Microsoft afirmam que modelos de fronteira são imprevisíveis e exigem supervisão humana.
- Novos controles de segurança exigem aprovação humana para decisões de agentes consideradas de risco.
A Microsoft anunciou o lançamento de novas ferramentas de segurança voltadas para o monitoramento de agentes de inteligência artificial dentro de ambientes corporativos. Como parte do Project Perception, o recurso Guardian Agents foi desenvolvido para mitigar riscos associados à imprevisibilidade dos modelos de fronteira, que a empresa agora recomenda tratar como ameaças internas. A iniciativa busca garantir que as organizações mantenham a autoridade sobre as decisões automatizadas tomadas por esses sistemas.
Além do monitoramento, a Microsoft integrou ao Microsoft Defender uma funcionalidade capaz de identificar até 60 tipos de agentes de IA em operação. A estratégia inclui a implementação de controles que exigem aprovação humana para ações classificadas como de risco, reforçando a governança tecnológica. A companhia também se uniu à Open Agent Safety Platform, da Nvidia, para promover o isolamento de agentes em ambientes seguros e controlados.