Google TPUv7 supera Blackwell Ultra em desempenho por dólar
O processador TPUv7 Ironwood da Google apresenta 50% mais eficiência de custo que o Blackwell Ultra da NVIDIA em testes de inferência.
||
08/09 às 10:40, atualizado 22:40
Pontos principais
- O TPUv7 Ironwood alcançou 50% mais desempenho por dólar que o Blackwell Ultra na plataforma InferenceX.
- A Google lançou a stack TorchTPU para execução nativa de PyTorch em seus processadores.
- O chip TPUv7 integra o SparseCore, unidade dedicada a otimizar o processamento de modelos MoE.
- O uso do SparseCore proporciona um aumento de 12% no throughput de kernels MoE.
A consultoria SemiAnalysis aponta que o novo processador TPUv7 Ironwood, da Google, oferece um desempenho por dólar 50% superior ao Blackwell Ultra, da NVIDIA. O ganho de eficiência é impulsionado pela nova stack de inferência TorchTPU e pela unidade SparseCore, projetada para otimizar a movimentação de dados em modelos MoE. Além do ganho de 12% no throughput de kernels específicos, o hardware apresenta um custo total de propriedade inferior em relação aos concorrentes.
Cobertura da mídia
@SemiAnalysis_: TPUv7 has a specialized hardware-accelerated unit called the SparseCore. TPU's specialized SparseCore handles data movement, gathering each expert’s tokens into contiguous groups, …
x.com • 8 set, 22:03
@SemiAnalysis_: ALERT🚨🚨: On apples-to-apples InferenceX Comparisons, TPUv7 Ironwood achieves 50% better perf per dollar than Blackwell Ultra on the new TorchTPU external inference stack!
x.com • 8 set, 10:01