Engenheiros chineses alertam para riscos de IA no setor militar
Desenvolvedores do caça J-36 apontam que modelos de IA podem gerar dados falsos ao analisar especificações de aeronaves militares.
Pontos principais
- Engenheiros do instituto chinês AVIC alertaram sobre alucinações em modelos de IA.
- A tecnologia é utilizada para mineração de dados e análise de desempenho de armamentos.
- O engenheiro Zhang Xianzhe publicou um artigo em 20 de junho sobre o risco de invenção de dados técnicos.
- O AVIC Chengdu Aircraft Research and Design Institute é o responsável pelo desenvolvimento dos caças J-20 e J-36.
Engenheiros do AVIC Chengdu Aircraft Research and Design Institute, responsável pelo desenvolvimento dos caças J-20 e J-36, emitiram um alerta sobre a utilização de modelos de linguagem de grande escala em projetos militares. Em um artigo publicado em 20 de junho, o engenheiro Zhang Xianzhe destacou que essas ferramentas de inteligência artificial apresentam riscos significativos de 'alucinações', podendo inventar especificações técnicas cruciais de aeronaves durante processos de mineração de dados e análise de desempenho. A preocupação central reside na confiabilidade das informações geradas por algoritmos em um setor onde a precisão é vital para a segurança e o sucesso operacional. O alerta sublinha os desafios enfrentados por instituições de defesa ao integrar tecnologias emergentes em fluxos de trabalho críticos, onde erros de processamento de dados podem comprometer o desenvolvimento de tecnologias militares avançadas.
Comentários
Carregando comentários...