Pesquisadores da OpenAI e Anthropic alertam para riscos existenciais da IA
Especialistas pedem limites à corrida tecnológica, citando a possibilidade de perda de controle sobre sistemas de superinteligência.
Pontos principais
- Pesquisadores da OpenAI e Anthropic alertam que a corrida pela superinteligência pode levar à perda de controle humano sobre sistemas autônomos.
- Evan Hubinger, da Anthropic, estima em mais de 10% a probabilidade de a IA causar a extinção humana na próxima década.
- Cientistas criticam o desenvolvimento acelerado de modelos como o GPT-6 Astra sem soluções adequadas de alinhamento e monitoramento.
- O senador Bernie Sanders planeja apresentar legislação para pausar o desenvolvimento de sistemas de superinteligência.
- O secretário do Tesouro dos EUA, Scott Bessent, afirmou que a concorrência tecnológica com a China impede uma pausa no setor.
- Críticos sugerem que os alertas podem ser estratégias de marketing ou tentativas de influenciar futuras regulamentações do setor.
- Relatórios de 2026 indicam que, embora o risco exista, os sistemas atuais ainda não possuem capacidade para causar uma catástrofe global.
Pesquisadores de destaque da OpenAI e da Anthropic intensificaram publicamente os alertas sobre os riscos existenciais associados ao avanço acelerado da inteligência artificial. O debate gira em torno da chamada 'p(doom)', métrica que estima a probabilidade de a tecnologia causar danos irreversíveis ou a extinção humana. Profissionais do setor, incluindo nomes que renunciaram às empresas, argumentam que a busca por modelos cada vez mais potentes, como o GPT-6 Astra, ocorre sem a implementação de salvaguardas eficazes ou planos de alinhamento que garantam o controle humano sobre sistemas autônomos.
O cenário gerou uma reação política em Washington, com o senador Bernie Sanders articulando medidas legislativas para pausar o desenvolvimento de superinteligências. No entanto, a administração do presidente Donald Trump mantém uma postura cautelosa. O secretário do Tesouro, Scott Bessent, ressaltou que a prioridade estratégica dos Estados Unidos é a disputa tecnológica com a China, o que torna improvável uma interrupção nas atividades das empresas de IA. Enquanto especialistas divergem sobre a urgência das ameaças, críticos do setor apontam que o alarmismo pode esconder interesses corporativos voltados a moldar regulamentações que favoreçam as empresas dominantes no mercado.