Pesquisador do Google critica cultura de segurança em IA militar

O pesquisador do Google DeepMind, Andreas Kirsch, manifestou preocupações sobre a eficácia das normas de segurança interna da companhia ao lidar com projetos de inteligência artificial de alta sensibilidade. Segundo Kirsch, a atual estrutura de governança é insuficiente para garantir a ética e a segurança, especialmente em contratos firmados com o Pentágono. O pesquisador argumenta que a confiança em processos internos não é suficiente para mitigar os riscos associados ao uso de IA no setor de defesa, defendendo a implementação de mecanismos de supervisão mais formais e transparentes. A declaração reforça o debate sobre a responsabilidade das Big Techs no desenvolvimento de tecnologias militares, sugerindo que os funcionários devem se organizar para exigir maior controle sobre as aplicações dessas ferramentas. A questão central reside na necessidade de um escrutínio externo mais rigoroso para assegurar que o desenvolvimento de IA esteja alinhado com padrões éticos globais.