Sistema Vera Rubin NVL72 supera GB300 em eficiência de inferência
Análise aponta que o Vera Rubin NVL72 oferece desempenho por dólar até 7,3 vezes superior ao GB300 NVL72 em cargas de trabalho com agentes.
||
20/10 às 00:45
Pontos principais
- O Vera Rubin NVL72 é até 7,3 vezes mais eficiente em custo-benefício que o GB300 NVL72 para inferência de agentes com 1 milhão de tokens.
- A avaliação utilizou o benchmark AgentX, que considera interações multi-turn, contexto de 1 milhão, reuso de prefixo e rajadas de sub-agentes.
- A NVIDIA submeteu o modelo GLM5.3 com suporte a 1 milhão de tokens de contexto para os testes.
O sistema Vera Rubin NVL72 apresenta um desempenho por dólar até 7,3 vezes superior ao GB300 NVL72 em cargas de trabalho de inferência com contexto de 1 milhão de tokens. A conclusão baseia-se no benchmark AgentX, que avalia interações multi-turn, reuso de prefixo e rajadas de sub-agentes. Para o teste, a NVIDIA utilizou o modelo GLM5.3 com suporte a 1 milhão de tokens de contexto.
