CEOs de IA alertam Conselho de Segurança da ONU sobre riscos da tecnologia

Líderes das principais empresas de inteligência artificial participaram da 10228ª sessão do Conselho de Segurança da ONU, dedicada ao tema 'Inteligência artificial e segurança internacional'. O encontro, realizado sob o item de manutenção da paz e segurança global, marcou a primeira vez que o órgão se reuniu especificamente para discutir os riscos existenciais e operacionais associados ao desenvolvimento acelerado de sistemas de IA cada vez mais capazes.

Durante o briefing, Dario Amodei, CEO da Anthropic, enfatizou a necessidade de priorizar a segurança sobre a velocidade de inovação. O executivo declarou que sua empresa está disposta a reduzir o ritmo de lançamentos caso avaliações externas indiquem riscos à integridade dos sistemas, alertando que a má gestão da tecnologia pode representar um perigo direto para a humanidade. Amodei destacou o risco de agentes de IA serem utilizados para o desenvolvimento de armas biológicas ou para a perda de controle humano sobre processos autônomos.

Sam Altman, CEO da OpenAI, reforçou o apelo por uma coordenação internacional robusta, defendendo a criação de padrões globais e benchmarks para medir as capacidades dos modelos de fronteira. Segundo Altman, a humanidade corre o risco de perder o controle do futuro para a IA caso não haja uma governança clara. O executivo defendeu um 'caminho do meio' que equilibre o potencial de inovação com mecanismos de segurança rigorosos, garantindo que o desenvolvimento tecnológico não ocorra à custa da estabilidade global.

O debate também contou com a participação de Clement Delangue, CEO da Hugging Face, e de Yoshua Bengio, copresidente do Painel Científico Internacional Independente sobre IA da ONU. Bengio alertou que as barreiras de segurança atuais estão se desfazendo diante da rápida evolução da tecnologia, enquanto Delangue relatou desafios práticos enfrentados por sua empresa após uma recente violação de segurança, defendendo maior transparência e monitoramento.

Apesar do consenso entre os especialistas sobre a necessidade de governança, o cenário político permanece dividido. Enquanto Estados Unidos e China exploram um sistema de notificação para incidentes de IA que ameacem a segurança nacional, o presidente Donald Trump manifestou oposição a qualquer estrutura de regulação internacional. O presidente classificou as propostas de controle global como um esquema que prejudicaria a competitividade tecnológica americana, mantendo o foco no incentivo ao avanço do setor como uma corrida estratégica.