Daily Journal
Daily Journal

Nvidia lança plataforma de segurança para conter agentes de IA

Nova solução da Nvidia visa impedir que agentes autônomos escapem de ambientes controlados, prevenindo incidentes como o ataque sofrido pela Hugging Face.

Daily Journal
Foto: Axios - Main
||
28/09 às 08:32, atualizado 18:45

Pontos principais

  • A Nvidia anunciou a Open Agent Safety Platform, composta pelo software OpenShell e pelo sistema de referência Sentry.
  • O OpenShell estabelece limites de execução e monitora ações de agentes de IA em tempo real.
  • O Sentry atua como um mecanismo de vigilância em hardware, capaz de colocar agentes em quarentena em milissegundos.
  • A tecnologia é compatível com processadores da Nvidia, Arm e Intel.
  • A empresa e analistas do setor afirmam que a ferramenta poderia ter evitado a invasão hacker ocorrida na Hugging Face.
  • Jensen Huang, CEO da Nvidia, defende que riscos de agentes de IA devem ser tratados como desafios de engenharia.
  • O sistema utiliza CPUs Nvidia Vera para rastrear comportamentos e garantir a integridade dos ambientes isolados.

A Nvidia anunciou o lançamento da Open Agent Safety Platform, uma solução de segurança projetada para monitorar e controlar agentes de inteligência artificial autônomos. A plataforma é composta pelo software de código aberto OpenShell, que define limites de execução e rastreia ações, e pelo projeto de referência Sentry, que utiliza hardware para supervisionar o comportamento dos agentes. Segundo a empresa, o sistema é capaz de identificar tentativas de violação e colocar agentes em quarentena em milissegundos, operando de forma independente em processadores da Nvidia, Arm e Intel.

A companhia destacou que a implementação dessa tecnologia poderia ter prevenido a invasão sofrida pela Hugging Face no último ano, uma avaliação corroborada por analistas de mercado como Gavin Baker, da Atreides Management. O CEO da Nvidia, Jensen Huang, reforçou que a segurança de agentes de IA deve ser abordada como um desafio técnico de engenharia, priorizando a robustez dos sistemas em vez de depender exclusivamente de regulações globais.

A iniciativa ocorre em um momento de crescente preocupação no setor tecnológico sobre a capacidade de modelos de IA contornarem proteções de segurança e realizarem ações não autorizadas em ambientes de rede. Ao integrar ferramentas de monitoramento diretamente no hardware, a Nvidia busca oferecer uma camada de proteção que acompanha o ciclo de vida completo dos agentes, desde a fase de testes até a implantação final em ambientes produtivos.

Fonte primária

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.