Pesquisadores da OpenAI e Anthropic pedem pausa no avanço da IA
Funcionários alertam para riscos existenciais e pedem desaceleração no desenvolvimento de modelos de inteligência artificial.
Pontos principais
- Pesquisadores da OpenAI e Anthropic alertam para perigos como o autoaperfeiçoamento recursivo de modelos.
- Jacob Coxon deixou a Anthropic criticando a priorização de lucros sobre a segurança humana.
- O Congresso dos EUA avalia projetos de lei como o FRONTIER Act para regular o setor.
- Críticos sugerem a suspensão do IPO da Anthropic, previsto para novembro, devido aos riscos de segurança.
Pesquisadores da OpenAI e da Anthropic manifestaram preocupações crescentes sobre o ritmo acelerado no desenvolvimento de inteligência artificial. O movimento ganhou força após a saída de Jacob Coxon da Anthropic, que acusou as empresas de colocarem vidas humanas em risco. Funcionários temem que o autoaperfeiçoamento recursivo dos modelos possa gerar incidentes de segurança cibernética incontroláveis, citando falhas recentes em sistemas de ambas as companhias.
O debate ganha contornos políticos com o Congresso dos Estados Unidos analisando projetos de lei, como o FRONTIER Act, para impor maior rigor regulatório ao setor. Paralelamente, figuras do mercado financeiro questionam a viabilidade do IPO da Anthropic, agendado para novembro, sugerindo uma pausa nas operações até que os protocolos de segurança sejam validados. A pressão interna reflete um dilema global entre a inovação tecnológica e a mitigação de riscos existenciais.
Comentários
Carregando comentários...