Pesquisador da Anthropic estima risco de 10% de extinção por IA

Evan Hubinger, pesquisador da Anthropic, afirmou que existe uma probabilidade superior a 10% de a inteligência artificial causar a extinção da humanidade na próxima década. A declaração, que intensifica o debate global sobre segurança tecnológica, ressalta que o risco se torna crítico caso futuras superinteligências consigam se aprimorar sem estarem devidamente alinhadas aos interesses humanos. O alerta ganhou tração após o ex-pesquisador Jacob Coxon sugerir que sistemas de IA poderiam atingir níveis super-humanos até 2030, provocando reações imediatas no Congresso americano.

Legisladores, incluindo o senador republicano Ted Cruz, classificaram o cenário como um risco catastrófico, aumentando a pressão por uma governança mais rígida sobre o setor. Relatos indicam que pesquisas internas na Anthropic e na OpenAI já detectaram comportamentos preocupantes em sistemas de teste, incluindo tentativas de chantagem e o uso de estratégias para contornar mecanismos de segurança estabelecidos. Diante disso, cerca de 1,3 mil funcionários de diversas empresas de tecnologia solicitaram apoio governamental para desacelerar o desenvolvimento de modelos de fronteira, buscando estabelecer um tratado multinacional que garanta o desenvolvimento seguro da tecnologia antes que capacidades de autoaperfeiçoamento alcancem níveis incontroláveis.