Nvidia lança plataforma Vera Rubin focada em eficiência de IA
A nova arquitetura Vera Rubin promete maximizar a inteligência por dólar em cargas de trabalho de pós-treinamento para modelos de IA agêntica.
Pontos principais
- A métrica 'inteligência por dólar' foi proposta pela Nvidia para avaliar o custo-benefício do pós-treinamento contínuo de modelos de IA.
- A plataforma Vera Rubin permite treinar modelos de grande escala utilizando apenas um quarto das GPUs necessárias na geração anterior, Blackwell.
- O sistema foi projetado para otimizar o ciclo de aprendizado por reforço, essencial para que agentes de IA se adaptem a mudanças em tempo real.
- Testes da Prime Intellect indicam que processadores Vera oferecem, em média, 30% mais throughput por CPU em comparação com arquiteturas x86.
- A Perplexity utiliza a infraestrutura da Nvidia para sincronizar pesos de modelos com trilhões de parâmetros em menos de dois segundos.
- O modelo Nemotron 3 Ultra, com 550 bilhões de parâmetros, foi utilizado como referência para demonstrar a eficácia do novo ecossistema de pós-treinamento.
A Nvidia apresentou a plataforma Vera Rubin, uma nova infraestrutura de hardware voltada para o que a empresa classifica como a era da IA agêntica. Diferente dos modelos generativos tradicionais, os agentes de IA exigem um processo de pós-treinamento contínuo para se adaptarem a novos ambientes e ferramentas, tornando a eficiência computacional um fator crítico para a viabilidade econômica desses sistemas. A nova métrica 'inteligência por dólar' busca medir o custo de manter um modelo capaz de realizar tarefas complexas ao longo do tempo, em vez de focar apenas na velocidade de processamento bruto.
Segundo a companhia, a arquitetura Vera Rubin foi codesenhada para maximizar o rendimento de cada ciclo de treinamento, reduzindo significativamente a quantidade de GPUs necessárias para o desenvolvimento de modelos de fronteira. Empresas como Prime Intellect e Perplexity já integram tecnologias da Nvidia em seus fluxos de trabalho, reportando ganhos em throughput e latência na sincronização de pesos de modelos massivos. A iniciativa reforça a estratégia da Nvidia de fornecer uma solução de ponta a ponta, que abrange desde bibliotecas de software, como o NeMo, até o hardware de alto desempenho.
Tópicos relacionados
Comentários
Carregando comentários...