Daily Journal
Daily Journal

Brex lança ferramenta de código aberto para monitorar agentes de IA

A plataforma CrabTrap utiliza LLMs para validar o comportamento de agentes de IA em tempo real, superando limitações de segurança tradicionais.

Daily Journal
Foto: Venturebeat
||
17/07 às 15:01

Pontos principais

  • O CrabTrap é uma ferramenta de código aberto que intercepta o tráfego de rede para monitorar ações de agentes de IA.
  • O sistema emprega uma abordagem de 'LLM-as-a-judge' para decidir automaticamente sobre a aprovação ou negação de solicitações.
  • A solução opera na camada de transporte, sendo agnóstica a frameworks e linguagens de programação.
  • A Brex utiliza uma estratégia de 'bootstrap' para criar políticas de segurança baseadas na análise de tráfego real.

A fintech Brex anunciou o lançamento do CrabTrap, uma plataforma de governança desenvolvida para monitorar e controlar o comportamento de agentes de IA em ambientes corporativos. Diferente dos sistemas de segurança tradicionais, que dependem de regras estáticas, o CrabTrap atua na camada de rede, interceptando requisições HTTP/HTTPS para validar ações em tempo real. A ferramenta utiliza um modelo de linguagem como juiz para analisar o tráfego e aplicar políticas de segurança que são geradas a partir da observação do comportamento real dos agentes, em vez de serem escritas manualmente. Essa abordagem permite que a empresa implemente agentes autônomos com maior confiança, superando falhas comuns em guardrails convencionais. Por ser agnóstico a frameworks, o sistema oferece uma camada de proteção escalável para operações de negócios que dependem de automação via IA.

Comentários

Carregando comentários...