CEO da Anthropic pede desaceleração imediata no desenvolvimento de IA
Dario Amodei alerta para riscos de segurança e sugere freio no avanço de modelos de IA para evitar consequências devastadoras a curto prazo.
Pontos principais
- Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo a redução no ritmo de criação de sistemas de inteligência artificial.
- O executivo alertou que agentes de IA descontrolados poderiam comprometer a segurança da internet em um prazo de seis meses.
- O pedido de cautela surge após o pesquisador Jacob Coxon deixar a indústria criticando a corrida pelo autoaperfeiçoamento de modelos.
- Amodei destacou a necessidade de medidas preventivas contra riscos associados a sistemas de computação superinteligentes.
O CEO da Anthropic, Dario Amodei, defendeu publicamente uma desaceleração imediata no desenvolvimento de inteligência artificial. Em um ensaio recente, o executivo alertou que a velocidade atual da corrida tecnológica pode resultar em riscos graves de segurança, sugerindo que agentes de IA descontrolados teriam potencial para assumir o controle da internet em um período de apenas seis meses.
A posição de Amodei ganha relevância em meio a um debate crescente sobre os perigos da superinteligência. O pedido de cautela coincide com a saída de pesquisadores da indústria, como Jacob Coxon, que criticaram o foco excessivo no desenvolvimento de modelos capazes de autoaperfeiçoamento. O setor agora enfrenta pressões para equilibrar a inovação tecnológica com protocolos de segurança que evitem consequências potencialmente devastadoras para a infraestrutura digital global.