Anthropic define métricas para monitorar desenvolvimento de IA
Empresa divulga critérios de P&D e supervisão de agentes para aumentar a transparência no ritmo de desenvolvimento de sistemas de fronteira.
Pontos principais
- A Anthropic estabeleceu métricas para medir a automação da pesquisa, a supervisão de agentes e o uso de poder computacional.
- Dados indicam que, em julho, 12% da capacidade computacional para P&D orientado por IA foi alocada para segurança.
- A iniciativa visa servir de modelo para outros laboratórios de fronteira e aumentar a transparência pública.
- O projeto complementa o plano de desaceleração em três etapas proposto pelo CEO da empresa, Dario Amodei.
A Anthropic anunciou a criação de métricas internas para monitorar o progresso no desenvolvimento de sistemas de IA, focando na proporção de P&D realizada por máquinas, na eficácia da supervisão humana sobre agentes autônomos e na alocação de recursos computacionais. A empresa defende que desenvolvedores de modelos de fronteira adotem critérios semelhantes para aumentar a transparência pública sobre o avanço da automação na construção de novos modelos. Como exemplo da aplicação prática, a companhia revelou que, em julho, cerca de 12% da capacidade computacional alocada para pesquisa e desenvolvimento foi destinada especificamente a protocolos de segurança.
Esta iniciativa busca oferecer métricas padronizadas para mensurar o ritmo de inovação no setor, servindo como um guia para outras organizações. A proposta complementa um plano de desaceleração em três etapas defendido pelo CEO da Anthropic, Dario Amodei, que tem buscado apoio entre líderes de outras empresas de tecnologia para uma abordagem coordenada no desenvolvimento da área. O movimento reflete uma preocupação crescente com a governança e o controle sobre a velocidade com que novos sistemas de inteligência artificial são criados e implementados.
Tópicos relacionados
Cobertura da mídia
Anthropic compartilha 3 métricas para ajudar empresas de IA a monitorar ritmo de desenvolvimento
Times Brasil • 17 set, 20:54
@AnthropicAI: AI systems are getting more powerful, and they're increasingly being used to build the next version of themselves. We want to illuminate that progress for the public.
x.com • 17 set, 17:32
Anthropic outlines metrics to track AI development at frontier labs: how much AI R&D is done by AI, how well agents are overseen, and how compute is allocated (Anthropic)
Techmeme • 17 set, 17:55