Brex lança ferramenta de segurança para monitorar agentes de IA

A Brex apresentou o CrabTrap, uma nova camada de segurança projetada para monitorar e controlar agentes de IA em ambientes corporativos. Em vez de tentar restringir o código interno dos agentes, a ferramenta atua como um proxy HTTP que inspeciona o tráfego de rede, tratando os agentes como funcionários virtuais. O sistema utiliza um LLM como juiz para identificar solicitações de alto risco, enquanto ações padrão seguem diretrizes estáticas predefinidas. Quando uma atividade suspeita é detectada, o CrabTrap interrompe o processo e solicita uma intervenção humana via Slack, garantindo que as operações autônomas permaneçam em conformidade com as políticas da empresa. Essa estratégia reflete a crescente necessidade de governança para sistemas autônomos, permitindo que organizações escalem o uso de IA sem comprometer a segurança da infraestrutura de rede.