Anthropic propõe mecanismo global de pausa no desenvolvimento de IA

A Anthropic apresentou uma proposta para a criação de um mecanismo global de pausa no desenvolvimento de inteligência artificial, visando mitigar riscos existenciais e a possível perda de controle humano sobre sistemas avançados. A empresa compara a necessidade de regulação ao controle de armas nucleares, sugerindo que laboratórios realizem verificações cruzadas entre si. O foco central do alerta é o risco de melhora recursiva e autorreplicação, cenários nos quais a IA se torna capaz de aprimorar sua própria inteligência sem intervenção humana, exigindo uma coordenação internacional urgente entre governos, cientistas e empresas. O anúncio ocorre simultaneamente ao progresso da empresa em modelos como o Claude, que demonstram capacidades avançadas de autorrecursividade.

O debate ganha força em um momento de maior escrutínio estatal, com o presidente Donald Trump tendo assinado um decreto que obriga o governo dos EUA a avaliar modelos de IA poderosos antes de seus lançamentos. Contudo, a iniciativa da Anthropic enfrenta ceticismo. Enquanto a empresa planeja convocar formuladores de políticas para discutir a segurança, críticos do setor argumentam que o pedido de pausa pode ser uma estratégia de marketing, além de alertar que tais medidas poderiam prejudicar a competitividade tecnológica frente a competidores como a China. A empresa segue com o desenvolvimento de seus sistemas em meio aos preparativos para sua oferta pública inicial de ações.