Relatório aponta falhas de segurança na indústria de IA global
Estudo do Future of Life Institute e alertas da ONU destacam riscos de segurança e o uso militar crescente de sistemas de inteligência artificial.
Pontos principais
- Nenhuma das nove principais empresas de IA atingiu a nota máxima em segurança, segundo o Future of Life Institute.
- A Anthropic obteve a melhor pontuação, um 'C+', mas sofreu restrições do Pentágono em novos modelos.
- O secretário-geral da ONU defendeu a proibição de armas autônomas letais que operam sem controle humano.
- Empresas do setor têm revertido políticas que proibiam o uso militar de suas ferramentas de IA.
- Reuniões em Genebra buscam estabelecer governança internacional para o uso de IA em conflitos.
Um relatório recente do Future of Life Institute revelou que as principais empresas de inteligência artificial falham em cumprir padrões de segurança essenciais para mitigar riscos existenciais. Mesmo a Anthropic, que liderou o ranking com uma nota 'C+', enfrenta escrutínio do Departamento de Defesa dos EUA, que impôs restrições aos seus modelos mais recentes devido a preocupações de segurança. O cenário é agravado pela tendência de empresas de tecnologia em reverter políticas que antes proibiam o uso militar de suas ferramentas.
Paralelamente, o secretário-geral da ONU, António Guterres, intensificou o debate sobre a governança da IA ao defender a proibição de armas autônomas letais. Em reuniões em Genebra, especialistas discutem a necessidade de manter a intervenção humana em decisões críticas de combate, em um momento em que sistemas civis de IA são cada vez mais integrados a operações militares e centros de comando globais.
Comentários
Carregando comentários...
