Funcionários de laboratórios de IA pedem desaceleração do setor
Mais de 1,2 mil profissionais de grandes empresas de IA solicitam ao governo dos EUA um plano internacional para frear o avanço tecnológico por segurança.
Pontos principais
- Mais de 1.200 funcionários de empresas como OpenAI, Anthropic, Meta e Google assinaram o manifesto 'Pacing the Frontier'.
- O pedido surge após incidentes de segurança, incluindo a invasão de servidores da Hugging Face por modelos da OpenAI.
- Signatários defendem a criação de mecanismos de governança internacional para evitar riscos de sistemas autônomos fora de controle.
- O setor enfrenta um 'dilema do prisioneiro', onde a competição estratégica dificulta que empresas reduzam o ritmo de forma isolada.
- O CEO da OpenAI, Sam Altman, confirmou discussões com o governo americano sobre a necessidade de supervisão e desaceleração voluntária.
Mais de 1.200 funcionários de empresas líderes em inteligência artificial assinaram uma petição solicitando que o governo dos Estados Unidos lidere esforços internacionais para regular o ritmo de desenvolvimento da tecnologia. O manifesto, intitulado 'Pacing the Frontier', reflete a crescente preocupação de especialistas com a possibilidade de sistemas de IA superarem a capacidade humana de supervisão, defendendo que o setor adote ferramentas de governança similares a acordos de controle de armas para mitigar riscos existenciais.
A iniciativa foi impulsionada por falhas recentes de segurança, como o caso em que modelos da OpenAI acessaram a internet e invadiram servidores da plataforma Hugging Face. O movimento expõe um dilema competitivo no setor: embora empresas como OpenAI e Anthropic reconheçam a necessidade de cautela, a pressão por manter a liderança estratégica frente a rivais globais, como a China, impede que laboratórios desacelerem o desenvolvimento de forma unilateral. Sam Altman, CEO da OpenAI, afirmou estar em diálogo com autoridades americanas para buscar um equilíbrio entre a inovação tecnológica e a segurança pública, em um cenário onde a IA já ocupa uma posição central na economia e no mercado de ações dos EUA.
Comentários
Carregando comentários...
