Anthropic propõe mecanismo global de pausa no desenvolvimento de IA

A Anthropic apresentou uma proposta para a criação de um mecanismo global de pausa no desenvolvimento de inteligência artificial, visando mitigar riscos existenciais e a possível perda de controle humano sobre sistemas avançados. A empresa compara a necessidade de regulação ao controle de armas nucleares, sugerindo que laboratórios realizem verificações cruzadas entre si para monitorar o avanço tecnológico. O objetivo é estabelecer uma estrutura de governança que acompanhe a velocidade da inovação, embora a companhia reconheça que a natureza invisível do treinamento de modelos torna a coordenação internacional um desafio complexo. Oficializado na última quinta-feira, o plano enfrenta resistência de críticos que argumentam que tais pausas poderiam prejudicar a competitividade tecnológica global. Enquanto promove o debate, a Anthropic segue com o desenvolvimento de modelos como o Claude e o Mythos, em meio aos preparativos para sua oferta pública inicial de ações.