Pesquisadores alertam para riscos da auto-melhoria recursiva em I.A.
Especialistas da Anthropic e OpenAI apontam que o avanço acelerado da inteligência artificial pode trazer consequências imprevisíveis à humanidade.
Pontos principais
- A auto-melhoria recursiva permite que sistemas de I.A. aprimorem seus próprios modelos sucessores.
- Engenheiros da Anthropic aumentaram a produtividade de código em oito vezes desde 2021 com auxílio de I.A.
- Evan Hubinger, da Anthropic, estima em 10% a chance de a tecnologia representar riscos existenciais na próxima década.
- A OpenAI manifestou preocupação com a falta de preparo da sociedade diante da velocidade do desenvolvimento tecnológico.
Pesquisadores de liderança na Anthropic e na OpenAI emitiram alertas sobre os perigos inerentes à auto-melhoria recursiva, um processo no qual sistemas de inteligência artificial auxiliam na criação de versões mais avançadas de si mesmos. Esse ciclo de desenvolvimento contínuo tem impulsionado ganhos expressivos de produtividade, como observado na Anthropic, onde a entrega de códigos por engenheiros cresceu oito vezes desde 2021. Contudo, a capacidade de acelerar a evolução tecnológica de forma autônoma levanta debates sobre a previsibilidade e o controle desses modelos.
A preocupação central reside na velocidade com que a tecnologia supera a capacidade de adaptação da sociedade. Enquanto especialistas como Evan Hubinger sugerem a existência de riscos existenciais significativos na próxima década, empresas do setor buscam mapear cenários que variam da desaceleração controlada até a implementação plena de sistemas autônomos. O desafio atual é equilibrar o potencial de inovação com a necessidade de salvaguardas que impeçam consequências irreversíveis para a humanidade.
Comentários
Carregando comentários...