Sistema Vera Rubin NVL72 da Nvidia promete salto de desempenho
Dados da SemiAnalysis indicam que o novo sistema Vera Rubin NVL72 da Nvidia oferece um throughput 67 vezes superior ao GB300 por dólar investido.
Pontos principais
- O sistema Vera Rubin NVL72 alcança 67x mais throughput por dólar que o GB300.
- A medição de performance considerou um SLO de 170 tokens por segundo.
- Ian Buck apresentará detalhes técnicos do AgentX no AI Infra Summit em Santa Clara.
A Nvidia apresentou dados sobre o sistema Vera Rubin NVL72, que demonstra um ganho de eficiência significativo em relação ao modelo GB300. Segundo análises, o novo hardware entrega um throughput 67 vezes maior por dólar, operando com um Service Level Objective de 170 tokens por segundo.
Os detalhes técnicos e a implementação do AgentX serão detalhados por Ian Buck durante o AI Infra Summit, evento que ocorrerá em Santa Clara. A apresentação visa esclarecer as capacidades do sistema e o impacto dessas métricas na infraestrutura de inteligência artificial.
Comentários
Carregando comentários...
