Daily Journal
Daily Journal

Pesquisador lança CRUX-in-a-box para monitorar agentes de IA

Sayash Kapoor anunciou o CRUX-in-a-box, infraestrutura de código aberto do grupo SAgE, de Princeton (EUA), para rodar e monitorar avaliações de agentes de IA que duram semanas.

Daily Journal
Foto: x.com
||
05/11 às 16:15, atualizado 16:40

Pontos principais

  • Roda agentes em máquinas virtuais por semanas.
  • Usa LLMs para sinalizar ações arriscadas à revisão humana.
  • Permite inspecionar chamadas de ferramentas, consumo de tokens e gastos.
  • Permite definir limites de tempo e de custo para os experimentos.
  • Permite conversar com os agentes durante a execução, para dar feedback ou responder às perguntas deles.
  • Suporta os scaffolds Agents SDK e AgentRQ/ACP, com Codex ou Claude.

Kapoor afirma que a ferramenta foi construída ao longo de seis meses de avaliações de longo horizonte no CRUX, para manter as execuções repetíveis, seguras e monitoradas. O código é do grupo SAgE, da Universidade de Princeton (EUA), e está no GitHub sob licença MIT.

A implantação usa instâncias EC2 da AWS. Segundo os autores do repositório, o código foi configurado especificamente para as avaliações CRUX, e eles incentivam pesquisadores a adaptá-lo para experimentos próprios de estilo CRUX.

Fontes primárias

Cobertura da mídia

Comentários (0)

Seja o primeiro a comentar.