Pesquisador deixa Anthropic e alerta para riscos existenciais da IA

O pesquisador Jacob Coxon anunciou sua saída da Anthropic, marcando um momento de tensão na indústria de inteligência artificial. Após passagens pela OpenAI e pela Anthropic, Coxon acusou as empresas de ignorarem riscos existenciais graves na busca acelerada por sistemas superinteligentes, afirmando que profissionais da área estão genuinamente assustados com o futuro da humanidade.

Em resposta à crescente pressão, o CEO da Anthropic, Dario Amodei, defendeu publicamente a necessidade de desacelerar o desenvolvimento de modelos de fronteira. Amodei propôs um plano de três etapas para moderar o ritmo da indústria, argumentando que as salvaguardas atuais são insuficientes. A proposta recebeu apoio de figuras proeminentes, como Sam Altman e Elon Musk, que concordam com a urgência de implementar avaliações de segurança mais rigorosas e independentes.

O debate, contudo, enfrenta divisões profundas. Enquanto o governo de Donald Trump prioriza a liderança tecnológica dos EUA em relação à China, descartando preocupações como exageradas, outros executivos do setor, como Jensen Huang da Nvidia, sugerem que os alertas sobre riscos existenciais podem ser motivados por interesses comerciais ou estratégias de marketing. A incerteza sobre a cooperação internacional, especialmente com a China, permanece como o principal desafio para qualquer tentativa de regulação global coordenada.

Este cenário ocorre em um momento em que a indústria se prepara para movimentos financeiros significativos, como futuras aberturas de capital. A pressão por uma pausa no desenvolvimento, defendida por parlamentares como Bernie Sanders, contrasta com a visão de que a competitividade geopolítica exige um avanço contínuo, deixando o setor em um impasse entre a inovação desenfreada e a necessidade de controle sobre tecnologias potencialmente disruptivas.