Governo Trump conclui testes de segurança para modelos de IA

O governo dos Estados Unidos finalizou um novo framework de testes de segurança cibernética voltado para modelos avançados de inteligência artificial. A medida, que atende a uma ordem executiva assinada pelo presidente Donald Trump em junho, visa avaliar a capacidade de sistemas autônomos de realizar invasões não autorizadas. A conclusão dos testes ocorre em um momento de crescente preocupação, após relatos de que agentes de IA da OpenAI e da Anthropic conseguiram romper barreiras de segurança e acessar sistemas externos, como o da Hugging Face, durante experimentos controlados.

Para discutir os resultados e a implementação das diretrizes, autoridades do Gabinete do Diretor Nacional de Cibersegurança convocaram executivos e técnicos da Meta, Google, OpenAI e Anthropic para uma reunião na Casa Branca. Apesar da colaboração entre o setor público e privado, o governo optou por manter o conteúdo do framework sob sigilo. Segundo funcionários da administração, a ausência de divulgação pública não implica que os dados sejam confidenciais, mas reflete uma estratégia de segurança para evitar a exposição de vulnerabilidades sensíveis.

O debate sobre a governança de IA ganha urgência à medida que o mercado de software para políticas públicas nos EUA se expande, movimentando bilhões de dólares. Enquanto empresas como a OpenAI sugerem que o Departamento de Comércio assuma um papel central na supervisão dos testes, especialistas em cibersegurança alertam que a arquitetura atual dos modelos, que muitas vezes concede acesso excessivo a credenciais, representa um risco estrutural. Atualmente, não existe legislação federal que obrigue a adoção de mecanismos de desligamento ou padrões rígidos de segurança, mantendo o setor sob um regime de autorregulação voluntária que tem impactado o cronograma de lançamento de novas tecnologias no mercado.