Brex lança ferramenta de código aberto para monitorar agentes de IA
A plataforma CrabTrap utiliza LLMs para validar o comportamento de agentes de IA em tempo real, superando limitações de segurança tradicionais.
Pontos principais
- O CrabTrap é uma ferramenta de código aberto que intercepta o tráfego de rede para monitorar ações de agentes de IA.
- O sistema emprega uma abordagem de 'LLM-as-a-judge' para decidir automaticamente sobre a aprovação ou negação de solicitações.
- A solução opera na camada de transporte, sendo agnóstica a frameworks e linguagens de programação.
- A Brex utiliza uma estratégia de 'bootstrap' para criar políticas de segurança baseadas na análise de tráfego real.
A fintech Brex anunciou o lançamento do CrabTrap, uma plataforma de governança desenvolvida para monitorar e controlar o comportamento de agentes de IA em ambientes corporativos. Diferente dos sistemas de segurança tradicionais, que dependem de regras estáticas, o CrabTrap atua na camada de rede, interceptando requisições HTTP/HTTPS para validar ações em tempo real. A ferramenta utiliza um modelo de linguagem como juiz para analisar o tráfego e aplicar políticas de segurança que são geradas a partir da observação do comportamento real dos agentes, em vez de serem escritas manualmente. Essa abordagem permite que a empresa implemente agentes autônomos com maior confiança, superando falhas comuns em guardrails convencionais. Por ser agnóstico a frameworks, o sistema oferece uma camada de proteção escalável para operações de negócios que dependem de automação via IA.
Comentários
Carregando comentários...
