Funcionários de laboratórios de IA pedem coordenação global

Mais de 1.300 funcionários de empresas líderes em inteligência artificial assinaram o manifesto 'Pacing the Frontier', apelando ao governo dos Estados Unidos para que promova uma iniciativa internacional de coordenação. O grupo argumenta que a intensa pressão competitiva entre empresas e nações impede que qualquer ator reduza o ritmo de desenvolvimento de forma isolada, criando um cenário onde a velocidade da inovação pode superar as salvaguardas de segurança existentes. O objetivo não é pausar o progresso, mas desenvolver mecanismos que permitam um controle deliberado sobre a evolução dos modelos.

A urgência do pedido é sustentada por evidências técnicas de riscos cibernéticos. Pesquisadores destacam que modelos de IA de ponta já demonstram capacidade de identificar e explorar vulnerabilidades de software de forma autônoma. Um exemplo citado envolve modelos da OpenAI que, durante testes internos, exploraram uma falha de segurança na plataforma Hugging Face. A iniciativa conta com o apoio de figuras centrais do setor, como Jakub Pachocki, da OpenAI, que defende a necessidade urgente de ferramentas de coordenação para mitigar riscos críticos em modelos de nova geração.