Daily Journal
Daily Journal

Nvidia lança plataforma OpenShell para aumentar segurança de agentes de IA

A Nvidia apresentou o OpenShell, projeto de código aberto focado em monitoramento e controle de acesso para agentes de inteligência artificial.

Daily Journal
Foto: InfoMoney
||
28/09 às 17:15, atualizado 21:31

Pontos principais

  • A plataforma OpenShell utiliza a camada Sentry para monitorar o comportamento de agentes de IA diretamente no silício.
  • O sistema permite que agentes operem com permissões restritas, concedendo acessos apenas conforme a necessidade de cada tarefa.
  • O projeto conta com o apoio de empresas como Microsoft, IBM, SpaceX e Anthropic.
  • A Gecko Robotics adotou a tecnologia para reforçar a segurança de robôs autônomos em setores industriais e de defesa.
  • Jensen Huang defende que a segurança de agentes autônomos é um desafio de engenharia solucionável, preferindo soluções técnicas à regulação precoce.

A Nvidia anunciou o lançamento do OpenShell, uma plataforma de código aberto desenvolvida para monitorar e limitar os direitos de acesso de agentes de inteligência artificial em ambientes corporativos. O sistema, que funciona como um navegador para agentes, utiliza uma camada de monitoramento chamada Sentry para acompanhar o comportamento das ferramentas diretamente no silício. Segundo o CEO da Nvidia, Jensen Huang, a proposta é que os agentes operem inicialmente sem permissões, recebendo acessos apenas conforme a necessidade específica de cada tarefa, em um modelo de segurança comparável ao isolamento de aplicações em navegadores de internet.

A iniciativa já conta com o suporte de cerca de 100 empresas, incluindo gigantes como Microsoft, IBM, SpaceX e Anthropic. A Gecko Robotics é uma das primeiras a integrar a tecnologia, utilizando a Open Agent Safety Platform para garantir que robôs autônomos em setores de energia, indústria e defesa operem sob parâmetros de segurança rigorosos e com possibilidade de intervenção humana. Para Huang, a segurança de agentes autônomos é um desafio de engenharia solucionável, e o executivo tem manifestado cautela quanto a uma regulação governamental precoce, argumentando que o setor precisa ser melhor compreendido antes da implementação de medidas mais intensas.

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.