Chefe de direitos humanos da ONU alerta para risco existencial da IA
Volker Türk defendeu a criação de mecanismos internacionais de governança e a proibição de armas autônomas diante dos riscos da inteligência artificial.
Pontos principais
- Volker Türk afirmou que o avanço da IA pode representar um risco existencial para a humanidade.
- O representante da ONU defendeu a criação de 'linhas vermelhas' e fiscalização independente para o setor.
- Houve críticas à concentração de poder sobre o desenvolvimento da tecnologia em poucas empresas.
- A ONU pediu a proibição urgente de armas autônomas que selecionam alvos sem intervenção humana.
- O gabinete citou incidentes recentes, como o da Hugging Face, como exemplo de avanço sem proteção.
- Türk também cobrou responsabilização por violações de direitos humanos em conflitos globais.
Durante a 63ª sessão do Conselho de Direitos Humanos da ONU, o alto-comissário Volker Türk alertou que o desenvolvimento descontrolado de sistemas de inteligência artificial pode representar uma ameaça existencial. O representante destacou que a velocidade da inovação tecnológica tem superado a implementação de medidas de proteção, citando incidentes envolvendo empresas como OpenAI, Anthropic, Alibaba e Hugging Face como evidências da necessidade de maior cautela. Türk defendeu o estabelecimento de mecanismos de verificação independentes e regras obrigatórias para conter o poder concentrado nas mãos de poucos desenvolvedores.
Além dos riscos existenciais, o chefe de direitos humanos da ONU enfatizou a urgência de proibir armas autônomas capazes de selecionar e atacar alvos sem intervenção humana direta. O discurso também conectou o uso de tecnologias emergentes a violações de direitos humanos em contextos de conflito, como o emprego de drones autônomos pela Rússia na Ucrânia. A fala de Türk reforça a pressão internacional por uma governança global que garanta a segurança e a ética no uso de sistemas autônomos, exigindo que governos e companhias assumam maior responsabilidade sobre os impactos dessas ferramentas na sociedade.
