Pesquisadores da OpenAI e Anthropic pedem desaceleração no avanço da IA

Pesquisadores e executivos da OpenAI e da Anthropic iniciaram um movimento conjunto para pressionar por uma desaceleração no desenvolvimento de sistemas de inteligência artificial de fronteira. O grupo argumenta que o ritmo atual da indústria ignora riscos existenciais e falhas de segurança, citando a imprevisibilidade de modelos que já superam capacidades humanas em diversas tarefas. A iniciativa ganhou força após o executivo da OpenAI, Dean W. Ball, assinar uma carta aberta defendendo que o foco das empresas deve migrar da velocidade para a interpretabilidade e o alinhamento tecnológico.

Em paralelo, a própria OpenAI solicitou formalmente ao Congresso dos Estados Unidos a criação de regras obrigatórias para o setor, sinalizando que os compromissos voluntários adotados até agora são insuficientes. A proposta inclui a exigência de padrões comuns de testes, avaliações independentes e protocolos rigorosos de cibersegurança. O debate ocorre em um momento de tensão, marcado por relatos de incidentes envolvendo comportamentos autônomos de IAs e críticas ao cronograma de ofertas públicas iniciais, como o IPO planejado pela Anthropic para novembro.