Ex-pesquisador da Anthropic acusa empresas de IA de negligenciar riscos
Jacob Coxon deixou a Anthropic e afirmou que a corrida tecnológica da empresa e da OpenAI ignora riscos existenciais da superinteligência.
Pontos principais
- Jacob Coxon pediu demissão da Anthropic criticando a velocidade do desenvolvimento de IA.
- O pesquisador alega que Anthropic e OpenAI priorizam a competição em detrimento da segurança.
- Coxon afirma que executivos minimizam publicamente os perigos da tecnologia.
- Evan Hubinger, da Anthropic, admitiu a falta de um plano de alinhamento para superinteligências.
- Pesquisadores temem que o desenvolvimento descontrolado de IA represente riscos existenciais até 2030.
O ex-pesquisador da Anthropic, Jacob Coxon, anunciou sua saída da companhia com críticas severas à indústria de inteligência artificial. Em declarações públicas, Coxon acusou a Anthropic e a OpenAI de negligenciarem riscos existenciais em uma corrida tecnológica irresponsável, afirmando que as empresas estão "apostando vidas" no desenvolvimento de superinteligências. Segundo o pesquisador, muitos profissionais do setor possuem consciência dos perigos, mas optam por amenizar o discurso para manter a competitividade no mercado. A saída de Coxon reforça um movimento de preocupação interna sobre o desenvolvimento descontrolado da tecnologia.
A preocupação foi corroborada por Evan Hubinger, também pesquisador da Anthropic, que admitiu a ausência de um plano concreto para garantir o alinhamento de sistemas autônomos avançados. O alerta de Coxon ganha relevância em um cenário onde pesquisadores sugerem que o desenvolvimento acelerado de modelos capazes de autoaprimoramento poderia representar ameaças significativas à humanidade ainda nesta década. O debate sobre a governança e a segurança na área de IA intensifica-se à medida que especialistas alertam para a falta de mecanismos de controle eficazes diante da velocidade das inovações atuais.
Comentários
Carregando comentários...