Jensen Huang defende segurança de agentes de IA via engenharia

O CEO da Nvidia, Jensen Huang, afirmou que os riscos associados aos agentes autônomos de inteligência artificial podem ser mitigados por meio de soluções de engenharia. A estratégia defendida pelo executivo consiste em operar essas ferramentas inicialmente sem permissões, concedendo acessos específicos apenas conforme a necessidade de cada tarefa. Para viabilizar esse controle, a empresa está desenvolvendo o OpenShell, um projeto de código aberto que atua como um navegador focado no monitoramento e na segurança de agentes.

O modelo de proteção proposto por Huang baseia-se no isolamento de aplicações, técnica amplamente utilizada em navegadores de internet para evitar acessos indevidos. Além da abordagem técnica, o executivo manifestou cautela em relação a possíveis regulações governamentais precoces para a indústria. Segundo ele, o setor de IA ainda precisa ser melhor compreendido antes que medidas legislativas mais intensas sejam implementadas, evitando assim que o progresso tecnológico seja prejudicado por restrições prematuras.