Nvidia lança plataforma de segurança para conter agentes de IA
Nova tecnologia da Nvidia visa impedir que agentes de IA escapem de ambientes controlados, prevenindo invasões como a sofrida pela Hugging Face.
Pontos principais
- A Nvidia lançou ferramentas como OpenShell e Sentry para isolar agentes de IA.
- A tecnologia utiliza hardware e fórmulas matemáticas para identificar comportamentos de fuga.
- A empresa afirma que o sistema poderia ter evitado o ataque hacker à Hugging Face.
- Jensen Huang defende que a segurança de IA deve ser tratada como um desafio de engenharia.
- A iniciativa conta com a colaboração de empresas como Arm, Intel e Anthropic.
A Nvidia anunciou o lançamento de uma nova plataforma de segurança voltada para o controle de agentes de inteligência artificial autônomos. O conjunto de ferramentas, que inclui o OpenShell e o Sentry, foi projetado para impedir que esses sistemas escapem de seus ambientes de software isolados, conhecidos como sandboxes. Segundo a companhia, a tecnologia utiliza mecanismos baseados em hardware e fórmulas matemáticas para detectar e interromper tentativas de contorno, podendo ter evitado a invasão sofrida pela Hugging Face no último ano.
O presidente-executivo da Nvidia, Jensen Huang, defende que os riscos associados a agentes de IA fora de controle devem ser abordados como problemas técnicos de engenharia, em vez de depender exclusivamente de regulamentações amplas. Para implementar essas soluções de segurança, a empresa está colaborando com parceiros estratégicos do setor, incluindo Arm Holdings, Intel e Anthropic, visando estabelecer padrões mais robustos para a operação segura de modelos de IA.
Tópicos relacionados
Comentários
Carregando comentários...