Google TPUv7 supera desempenho por custo de chips da Nvidia
O novo TPUv7 do Google registrou desempenho 1,67 vezes superior por dólar em comparação ao sistema GB300 NVL72 da Nvidia em testes de benchmark.
||
15/10 às 00:15
Pontos principais
- O Google submeteu resultados do TPUv7 FP8 ao Agentic Inference Benchmark.
- O TPUv7 apresentou 1,67x melhor desempenho por dólar que o GB300 NVL72 FP4 da Nvidia.
- O benchmark avalia cargas de trabalho de agentes, contexto longo e padrões de KVCache.
- Os testes utilizaram o stack TorchTPU vLLM do Google em uma configuração de 4 chips.
O Google submeteu os primeiros resultados do TPUv7 FP8 ao Agentic Inference Benchmark, superando o desempenho por custo do sistema GB300 NVL72 FP4 da Nvidia em 1,67 vezes. A avaliação focou em cargas de trabalho de agentes com múltiplos turnos, contexto longo e padrões de KVCache. Os testes foram realizados utilizando o stack TorchTPU vLLM do Google em uma configuração de quatro chips, com o TPUv7 superando o concorrente em cenários de baixa interatividade.
