OpenWorker integra ferramentas da Nvidia para reforçar segurança de IA
O projeto OpenWorker adotará o Nvidia OpenShell para isolar agentes de IA e prevenir acessos não autorizados a dados sensíveis.
||
28/09 às 17:15
Pontos principais
- O OpenWorker passará a utilizar o Nvidia OpenShell para criar ambientes de sandbox para agentes de IA.
- A nova implementação limita o acesso dos agentes a arquivos, chaves de API e credenciais de login.
- O sistema utiliza código determinístico para mitigar riscos como injeção de prompt em LLMs.
- A solução inclui o registro de todas as ações dos agentes para viabilizar auditorias e monitoramento.
O projeto OpenWorker anunciou a integração das ferramentas de sandboxing da Nvidia para aprimorar a segurança de agentes de IA. A implementação do Nvidia OpenShell permitirá isolar comandos em ambientes restritos, limitando o acesso a arquivos e credenciais sensíveis. O sistema utiliza código determinístico para evitar falhas comuns em LLMs, como a injeção de prompt, e inclui o registro de todas as atividades dos agentes para fins de monitoramento e auditoria.
Comentários
Carregando comentários...
