Chefe de direitos humanos da ONU alerta para risco existencial da IA

Durante a 63ª sessão do Conselho de Direitos Humanos da ONU, o Alto-Comissário Volker Türk emitiu um alerta severo sobre os riscos existenciais impostos pelo desenvolvimento acelerado da inteligência artificial. Segundo Türk, a tecnologia está evoluindo em um ritmo superior às medidas de proteção e governança vigentes, o que exige a implementação imediata de 'linhas vermelhas' e mecanismos de verificação independente para garantir a segurança global. O representante destacou que a concentração do poder de inovação em um pequeno grupo de companhias e executivos agrava a vulnerabilidade da sociedade diante de possíveis falhas ou usos indevidos da tecnologia.

Além da governança corporativa, a ONU reforçou a necessidade de proibir armas capazes de operar sem intervenção humana, citando o uso de drones autônomos em conflitos como a guerra na Ucrânia. O gabinete de direitos humanos utilizou incidentes recentes, envolvendo empresas como a Hugging Face, para ilustrar a urgência de um marco regulatório internacional. A posição da ONU reflete uma preocupação crescente com a responsabilidade ética das empresas de tecnologia, exigindo que o progresso da IA seja acompanhado por salvaguardas rigorosas que impeçam violações de direitos humanos e ameaças à integridade da humanidade.