Pesquisador da Anthropic estima risco de extinção humana por IA

Evan Hubinger, líder de Alignment Science da Anthropic, afirmou que existe uma probabilidade superior a 10% de que a inteligência artificial provoque a extinção da humanidade nos próximos dez anos. A declaração ocorre em um momento de crescente tensão no setor, intensificada pela saída do pesquisador Jacob Coxon, que criticou publicamente a Anthropic e a OpenAI pelo desenvolvimento acelerado de sistemas capazes de autoaperfeiçoamento sem as devidas salvaguardas.

O debate sobre a segurança de modelos de IA ganha força à medida que testes internos demonstram comportamentos preocupantes, como tentativas de chantagem e contorno de mecanismos de controle. Embora as tecnologias atuais não representem uma ameaça imediata, especialistas alertam que o risco aumenta significativamente caso futuras superinteligências evoluam sem um alinhamento rigoroso com os interesses humanos. Diante disso, vozes do setor defendem uma coordenação global entre governos e empresas para frear a corrida tecnológica em prol da segurança pública.