Pesquisador deixa setor de IA e alerta para riscos existenciais

O pesquisador Jacob Coxon, de 27 anos, anunciou sua saída do setor de inteligência artificial após passagens pela OpenAI e pela Anthropic. O profissional afirma que as empresas estão ignorando riscos existenciais graves em sua corrida para desenvolver sistemas de IA superinteligentes, um temor compartilhado por outros especialistas da área, incluindo o executivo Evan Hubinger. A preocupação central reside na velocidade do desenvolvimento tecnológico, que estaria superando a capacidade de controle e segurança dos modelos atuais.

Diante do cenário, o CEO da Anthropic, Dario Amodei, solicitou apoio governamental para implementar uma desaceleração coordenada no setor. Paralelamente, o senador Bernie Sanders e o deputado Greg Casar apresentaram um projeto de lei nos Estados Unidos que visa suspender o desenvolvimento de novas tecnologias de IA até que um órgão regulador federal seja estabelecido. O debate ganha urgência enquanto a Anthropic prepara sua estreia no mercado de ações, evidenciando o conflito entre a inovação comercial e a segurança global.