Bessemer Venture Partners publica guia de segurança para agentes de IA
O relatório 'The Agentic Awakening' estabelece dez diretrizes para o uso seguro de agentes de inteligência artificial em ambientes corporativos.
Pontos principais
- O guia foi desenvolvido pelos sócios da Bessemer Venture Partners, Liran Haimovitch e Adam Fisher.
- As recomendações incluem a separação entre entrada de dados e execução de tarefas, além do uso de sandboxes.
- O documento sugere a implementação de identidades para agentes e o uso de credenciais de curta duração.
- A Bessemer defende o monitoramento contínuo de logs e a realização de testes de red-teaming nos sistemas.
- O material recomenda a adoção de revisores de IA em pull requests e a restrição de acesso a ferramentas.
A Bessemer Venture Partners lançou o guia 'The Agentic Awakening', focado em diretrizes de segurança para agentes de inteligência artificial no setor corporativo. Desenvolvido pelos sócios Liran Haimovitch e Adam Fisher, o material argumenta que a recusa no uso de IA em códigos não é mais uma postura de segurança defensável. O documento estabelece dez mandamentos que incluem a separação entre entrada de dados e execução, o uso de sandboxes para contenção de riscos e a implementação de identidades específicas para agentes. Além disso, o guia orienta o monitoramento de logs, a realização de testes de red-teaming e a utilização de credenciais de curta duração para evitar a exposição de segredos sensíveis.
Comentários
Carregando comentários...
