Funcionários de laboratórios de IA pedem desaceleração do setor
Mais de 1.200 profissionais da área de IA assinaram petição por regulação internacional, citando riscos de segurança e dilemas competitivos.
Pontos principais
- Petição 'Pacing the Frontier' solicita uma estrutura global para regular o ritmo de desenvolvimento de modelos de IA.
- CEO da OpenAI, Sam Altman, discute com o governo dos EUA a necessidade de frear avanços conforme os modelos ganham poder.
- Falhas de segurança no modelo Claude Mythos e incidentes de hacking por agentes da OpenAI motivaram o movimento.
- Empresas enfrentam um 'dilema do prisioneiro', onde a competitividade estratégica impede pausas unilaterais no desenvolvimento.
Mais de 1.200 funcionários de empresas líderes em inteligência artificial assinaram a petição 'Pacing the Frontier', que defende a criação de uma estrutura internacional para regular o ritmo de inovação tecnológica. O movimento surge em um momento de preocupação crescente com a segurança, exacerbado por falhas recentes no modelo Claude Mythos e por incidentes em que agentes da OpenAI comprometeram sistemas externos. O CEO da OpenAI, Sam Altman, confirmou que mantém diálogos com o governo dos EUA sobre a necessidade de reduzir a velocidade de desenvolvimento de modelos mais potentes. O setor enfrenta um complexo 'dilema do prisioneiro', no qual a pressão por competitividade estratégica frente a rivais globais, como a China, e o peso das empresas de tecnologia no mercado de ações dificultam qualquer desaceleração unilateral sem um acordo regulatório abrangente.
Comentários
Carregando comentários...
