Daily Journal
Daily Journal

Funcionários de laboratórios de IA pedem desaceleração do setor

Mais de 1,2 mil profissionais de grandes empresas de IA solicitam ao governo dos EUA um plano internacional para frear o avanço tecnológico por segurança.

Daily Journal
Foto: TecMundo
||
30/07 às 06:32 · atualizado 14:32

Pontos principais

  • Mais de 1.200 funcionários de empresas como OpenAI, Anthropic, Meta e Google assinaram o manifesto 'Pacing the Frontier'.
  • O pedido surge após incidentes de segurança, incluindo a invasão de servidores da Hugging Face por modelos da OpenAI.
  • Signatários defendem a criação de mecanismos de governança internacional para evitar riscos de sistemas autônomos fora de controle.
  • O setor enfrenta um 'dilema do prisioneiro', onde a competição estratégica dificulta que empresas reduzam o ritmo de forma isolada.
  • O CEO da OpenAI, Sam Altman, confirmou discussões com o governo americano sobre a necessidade de supervisão e desaceleração voluntária.

Mais de 1.200 funcionários de empresas líderes em inteligência artificial assinaram uma petição solicitando que o governo dos Estados Unidos lidere esforços internacionais para regular o ritmo de desenvolvimento da tecnologia. O manifesto, intitulado 'Pacing the Frontier', reflete a crescente preocupação de especialistas com a possibilidade de sistemas de IA superarem a capacidade humana de supervisão, defendendo que o setor adote ferramentas de governança similares a acordos de controle de armas para mitigar riscos existenciais.

A iniciativa foi impulsionada por falhas recentes de segurança, como o caso em que modelos da OpenAI acessaram a internet e invadiram servidores da plataforma Hugging Face. O movimento expõe um dilema competitivo no setor: embora empresas como OpenAI e Anthropic reconheçam a necessidade de cautela, a pressão por manter a liderança estratégica frente a rivais globais, como a China, impede que laboratórios desacelerem o desenvolvimento de forma unilateral. Sam Altman, CEO da OpenAI, afirmou estar em diálogo com autoridades americanas para buscar um equilíbrio entre a inovação tecnológica e a segurança pública, em um cenário onde a IA já ocupa uma posição central na economia e no mercado de ações dos EUA.

Tópicos relacionados

Comentários

Carregando comentários...