Pesquisador da Anthropic pede demissão por riscos de superinteligência

O pesquisador Jacob Coxon, de 27 anos, anunciou na terça-feira, 8 de setembro de 2026, sua demissão da Anthropic, encerrando um ciclo de três anos dedicado à pesquisa de pré-treinamento na empresa e na OpenAI. Em uma série de publicações, Coxon acusou as duas companhias de agirem de forma irresponsável ao priorizarem uma corrida tecnológica para desenvolver sistemas de superinteligência auto-aprimoráveis. Segundo o pesquisador, que anteriormente considerava a Anthropic uma organização mais cautelosa que a OpenAI, essas empresas estariam "apostando com nossas vidas" ao acelerar a criação de tecnologias que poderiam ignorar comandos humanos e adquirir poder de forma incontrolável. As críticas de Coxon ganharam eco dentro da própria Anthropic. Evan Hubinger, líder de Alignment Science da empresa, corroborou publicamente as preocupações, admitindo que a equipe ainda não possui um plano para garantir o alinhamento de uma superinteligência. Hubinger estimou que a probabilidade de a inteligência artificial causar danos graves ou a extinção humana na próxima década é superior a 10%. Relatos indicam que esse temor é compartilhado em discussões privadas por diversos executivos e pesquisadores seniores do setor, que frequentemente amenizam o discurso em declarações públicas. O debate sobre a segurança da tecnologia ocorre em um momento de pressão financeira e política. A Anthropic prepara-se para uma oferta pública inicial (IPO) com uma meta de valuation de até US$ 2 trilhões. Paralelamente, líderes das principais empresas de IA, incluindo Dario Amodei e Sam Altman, têm solicitado ao governo de Donald Trump a implementação de mecanismos de freio e coordenação internacional. Contudo, a administração atual mantém uma abordagem de regulação mínima, resistindo a propostas de parlamentares que buscam suspender o desenvolvimento de sistemas de fronteira. Para Coxon, a decisão de acelerar o desenvolvimento não deveria ser tomada unilateralmente por empresas privadas. O pesquisador defende que a contenção da corrida global pode exigir medidas drásticas, como uma proibição temporária de melhorias nas capacidades dos modelos. A saída de Coxon destaca a crescente tensão entre a busca por liderança no mercado de IA e a gestão de riscos existenciais, um tema que se tornou central nas discussões sobre o futuro da tecnologia e que deve influenciar as próximas pautas legislativas nos Estados Unidos.