Anthropic alerta para risco de IA criar seus próprios sucessores

A Anthropic alertou que o avanço acelerado dos sistemas de inteligência artificial está próximo de atingir o estágio de auto-melhoria recursiva, onde modelos poderiam projetar seus próprios sucessores com mínima intervenção humana. Diante desse cenário, a empresa, atualmente avaliada em US$ 1 trilhão, defende que os principais laboratórios do setor avaliem uma desaceleração ou pausa temporária no desenvolvimento de novas tecnologias. Jack Clark, representante da companhia, ressalta que, embora o potencial para a ciência e medicina seja transformador, a autonomia crescente exige mecanismos rigorosos de validação para evitar riscos sociais imprevistos.

O posicionamento da Anthropic intensifica o debate sobre a governança de IA entre os principais players do mercado. A OpenAI também reforça a necessidade de transparência, alertando que o desenvolvimento autônomo sem padrões éticos estabelecidos pode comprometer o controle humano sobre sistemas avançados. A busca por uma pausa estratégica visa garantir que a evolução tecnológica não supere a capacidade humana de mitigação de riscos, tornando urgente a criação de diretrizes globais para o setor.