Nvidia lança plataforma de segurança para conter agentes de IA
Nova solução da Nvidia visa impedir que agentes autônomos escapem de ambientes controlados, prevenindo incidentes como o ataque sofrido pela Hugging Face.
Pontos principais
- A Nvidia anunciou a Open Agent Safety Platform, composta pelo software OpenShell e pelo sistema de referência Sentry.
- O OpenShell estabelece limites de execução e monitora ações de agentes de IA em tempo real.
- O Sentry atua como um mecanismo de vigilância em hardware, capaz de colocar agentes em quarentena em milissegundos.
- A tecnologia é compatível com processadores da Nvidia, Arm e Intel.
- A empresa e analistas do setor afirmam que a ferramenta poderia ter evitado a invasão hacker ocorrida na Hugging Face.
- Jensen Huang, CEO da Nvidia, defende que riscos de agentes de IA devem ser tratados como desafios de engenharia.
- O sistema utiliza CPUs Nvidia Vera para rastrear comportamentos e garantir a integridade dos ambientes isolados.
A Nvidia anunciou o lançamento da Open Agent Safety Platform, uma solução de segurança projetada para monitorar e controlar agentes de inteligência artificial autônomos. A plataforma é composta pelo software de código aberto OpenShell, que define limites de execução e rastreia ações, e pelo projeto de referência Sentry, que utiliza hardware para supervisionar o comportamento dos agentes. Segundo a empresa, o sistema é capaz de identificar tentativas de violação e colocar agentes em quarentena em milissegundos, operando de forma independente em processadores da Nvidia, Arm e Intel.
A companhia destacou que a implementação dessa tecnologia poderia ter prevenido a invasão sofrida pela Hugging Face no último ano, uma avaliação corroborada por analistas de mercado como Gavin Baker, da Atreides Management. O CEO da Nvidia, Jensen Huang, reforçou que a segurança de agentes de IA deve ser abordada como um desafio técnico de engenharia, priorizando a robustez dos sistemas em vez de depender exclusivamente de regulações globais.
A iniciativa ocorre em um momento de crescente preocupação no setor tecnológico sobre a capacidade de modelos de IA contornarem proteções de segurança e realizarem ações não autorizadas em ambientes de rede. Ao integrar ferramentas de monitoramento diretamente no hardware, a Nvidia busca oferecer uma camada de proteção que acompanha o ciclo de vida completo dos agentes, desde a fase de testes até a implantação final em ambientes produtivos.
Fonte primária
Tópicos relacionados
Cobertura da mídia
@GavinSBaker: Nvidia’s new Open Agent Safety Platform would have probably prevented the much discussed Hugging Face incident.
x.com • 28 set, 18:16
Nvidia says new tool can contain rogue AI agents in "milliseconds"
Axios - Main • 28 set, 18:20
Nvidia Lança Software de Segurança de IA Que, Segundo a Empresa, Poderia Ter Impedido Ataque Hacker À Hugging Face
Forbes Brasil Tech • 28 set, 16:51
Leia também
Nvidia lança plataforma de segurança para agentes autônomos de IA
29 set, 06:45
Nvidia lança plataforma OpenShell para aumentar segurança de agentes de IA
28 set, 17:15
Nvidia lança plataforma para monitorar e conter agentes de IA
28 set, 06:30
Falha no NVIDIA NemoClaw permite controle total de agentes de IA
26 ago, 15:46
Nvidia lidera criação da Open Secure AI Alliance para segurança de IA
27 jul, 09:45
Comentários (0)
Seja o primeiro a comentar.
