Daily Journal
Daily Journal

Perplexity e Nvidia lançam plataforma de IA para processamento local

A nova solução permite rodar agentes de IA em hardware local, eliminando custos de tokens e reforçando a privacidade de dados sensíveis.

Daily Journal
Foto: Venturebeat
||
25/08 às 10:04

Pontos principais

  • O Portable Computer permite que agentes de IA operem inteiramente em máquinas locais com GPUs Nvidia.
  • A solução elimina custos de créditos de nuvem e mantém arquivos confidenciais no dispositivo do usuário.
  • O sistema utiliza um modelo híbrido que escala para a nuvem apenas quando necessário.
  • A ferramenta está disponível inicialmente para assinantes Pro, Max e Enterprise no sistema Linux.
  • O suporte para o sistema operacional Windows está previsto para ser lançado em setembro.

A Perplexity, em parceria com a Nvidia, anunciou o lançamento do Portable Computer, uma plataforma que permite a execução de agentes de inteligência artificial inteiramente em hardware local. Utilizando o supercomputador desktop DGX Spark ou PCs equipados com GPUs RTX, a solução elimina a necessidade de créditos de nuvem para tarefas processadas no dispositivo, reduzindo custos operacionais e garantindo que dados sensíveis permaneçam sob controle do usuário. O sistema adota uma abordagem híbrida, escalando para modelos de nuvem mais robustos apenas quando a complexidade da tarefa exige, com o auxílio de um classificador de PII para assegurar a privacidade. A tecnologia é voltada principalmente para setores que exigem alta confidencialidade, como o jurídico, financeiro e de saúde. Atualmente disponível para assinantes Pro, Max e Enterprise no Linux, a plataforma deve expandir seu suporte para o Windows em setembro.

Tópicos relacionados

Comentários

Carregando comentários...