Perplexity lança ferramentas de governança e segurança para agentes de IA
A empresa introduziu sistemas de isolamento e monitoramento para conter riscos em agentes de IA e ambientes de desenvolvimento.
Pontos principais
- O sistema SPACE utiliza microVMs isoladas para executar tarefas de computador com controle de rede.
- A ferramenta Numbat monitora agentes de codificação em larga escala, bloqueando ações perigosas em tempo real.
- O software Bumblebee identifica pacotes e extensões de risco em máquinas de desenvolvedores.
- Testes de estresse com nove modelos confirmaram a eficácia na contenção de acesso root.
- A Perplexity mantém colaborações com Stanford, CMU e NVIDIA para compartilhar avanços em segurança.
A Perplexity anunciou o lançamento de novas salvaguardas de infraestrutura voltadas para a governança de agentes de IA. Entre as inovações está o sistema SPACE, que utiliza microVMs isoladas para executar tarefas com restrições de rede, e o monitor Numbat, capaz de rastrear agentes de codificação em milhares de endpoints para bloquear ações perigosas em tempo real.
Além disso, a empresa apresentou o Bumblebee, ferramenta focada em verificar máquinas de desenvolvedores em busca de extensões e pacotes de risco. Testes de estresse realizados com nove modelos diferentes demonstraram sucesso na contenção de acesso root, enquanto a companhia segue colaborando com instituições como Stanford, CMU e NVIDIA para compartilhar descobertas sobre segurança.
Comentários
Carregando comentários...
