Líder de alinhamento da Anthropic estima risco de extinção por IA

Evan Hubinger, líder de Ciência de Alinhamento da Anthropic, expressou preocupações significativas sobre o futuro da inteligência artificial. Em declarações recentes, o especialista estimou que existe uma probabilidade superior a 10% de que a tecnologia cause a extinção humana na próxima década. O ponto central da preocupação de Hubinger reside no fenômeno do autoaperfeiçoamento recursivo, processo no qual sistemas de IA aprimoram suas próprias capacidades de forma autônoma e acelerada, potencialmente superando o controle humano. Apesar dos esforços da Anthropic, Hubinger reconheceu que a empresa ainda não possui um plano concreto para resolver o desafio do alinhamento de superinteligências, admitindo que a companhia não está claramente no caminho certo para mitigar esses riscos existenciais a longo prazo.

O posicionamento reforça as diretrizes apresentadas no mais recente Relatório de Riscos da Anthropic, que diferencia o cenário atual de modelos de IA de gerações futuras mais potentes. Enquanto a empresa avalia que os riscos impostos pelos modelos disponíveis hoje são baixos, o alerta de Hubinger destaca a urgência em desenvolver mecanismos de segurança antes que a superinteligência se torne uma realidade técnica. A declaração sublinha o debate contínuo entre especialistas sobre a necessidade de governança e controle rigoroso no desenvolvimento de sistemas de fronteira, dado que a velocidade do avanço tecnológico tem superado as previsões iniciais de segurança do setor.