Chip Jalapeño da OpenAI supera o Blackwell da Nvidia em desempenho por watt
Benchmarks da SemiAnalysis apontam 1,5 a 1,9 vez mais trabalho por watt e latência até 3,6 vezes menor que a do Blackwell.
Pontos principais
- A OpenAI apresentou o Jalapeño, seu chip de inferência próprio construído com a Broadcom, na conferência Hot Chips e deixou a SemiAnalysis avaliá-lo.
- O projeto começou em meados de 2024 e foi da contratação inicial da equipe ao tape-out em cerca de 16 meses.
- O chip entregou de 1,5 a 1,9 vez mais trabalho de IA por watt que os chips Blackwell da Nvidia, com latência de 1,7 a 3,6 vezes menor.
- Os testes rodaram GPT-OSS, DeepSeek R1 e Kimi K2.5.
- No DeepSeek R1, superou 700 tokens por segundo por usuário com concorrência 1; no GPT-OSS, chegou a cerca de 1.400.
- O silício A0 testado já foi sucedido pelo stepping B0, que está na fábrica e entrega cerca de 25% mais desempenho por watt.
- O B0 entrega 13,4 PFLOPs em MXFP4 num único die do tamanho de um retículo no processo N3P da TSMC, contra 17,5 PFLOPs em NVFP4 denso de um die Rubin comparável.
- O TDP do Jalapeño é de 700W, contra 900W a 1.150W por die de computação do Rubin.
Os números de tokens por segundo foram obtidos com predição de token único, sem decodificação especulativa e sem separação entre prefill e decode — ou seja, sem os truques que normalmente inflam benchmarks de inferência. O chip se destacou tanto em cenários de baixa latência quanto de alta vazão.
O Jalapeño será fornecido com HBM4 (memória de alta largura de banda de quarta geração), resultando em 15,4TB/s de banda por pacote, acima de todos os aceleradores em produção que usam HBM3E. OpenAI e Broadcom apresentaram o chip pela primeira vez em junho de 2026, quando prometeram implantação em escala de gigawatts com parceiros de data center.
Comentários
Carregando comentários...