Chip Jalapeño da OpenAI supera desempenho do Blackwell da Nvidia
Testes do benchmark InferenceX, da SemiAnalysis, mostram que o chip Jalapeño da OpenAI entrega de 1,5 a 1,9 vez mais trabalho por watt e latência até 3,6 vezes menor que os chips GB200 e GB300 da Nvidia.
Pontos principais
- O Jalapeño é um chip ASIC feito pela OpenAI com a Broadcom; segundo a empresa, o projeto foi do desenho ao tapeout em nove meses, com uso intensivo de IA nas etapas de design e verificação.
- O chip tem TDP nominal de 700W, mas o consumo sustentado medido nos testes ficou em até 550W — bem abaixo dos concorrentes de referência, os chips GB200 (1.200W) e GB300 (1.400W) da Nvidia.
- Em GPT-OSS 120B, o Jalapeño entregou cerca de 1,9 vez mais throughput por kW e latência ponta a ponta 1,7 vez menor que o GB200.
- Em DeepSeek R1 670B, a vantagem foi de 1,7 vez em throughput por kW e 3,6 vezes em latência menor frente ao GB300.
- No maior modelo testado, Kimi K2.5 1T, o ganho foi de cerca de 1,5 vez em desempenho por watt e 3,4 vezes em latência menor que o GB300.
- A OpenAI projetou o chip para também ser programado por IA: implementações geradas por IA para blocos de atenção e mixture-of-experts do GPT-OSS rodaram de 1,5 a 1,8 vez mais rápido que versões escritas por engenheiros.
- A empresa planeja começar a implantar o Jalapeño em sua infraestrutura até o fim do ano, como a primeira geração de um roadmap que já inclui uma segunda geração em desenvolvimento avançado e uma terceira em formação.
- O CEO da OpenAI, Sam Altman, confirmou a alta velocidade de processamento do novo componente.
A OpenAI apresentou oficialmente o Jalapeño, seu primeiro chip ASIC personalizado voltado para a inferência de inteligência artificial, desenvolvido com a Broadcom. Segundo a empresa, o projeto foi do desenho ao tapeout em nove meses, com uso intensivo de IA para acelerar as etapas de design, verificação e otimização dos circuitos aritméticos do chip. Detalhes técnicos indicam que o componente tem TDP nominal de 700W, mas o consumo sustentado medido nos testes ficou em até 550W — abaixo do nominal e também dos concorrentes usados como referência, os chips GB200 (1.200W) e GB300 (1.400W) da Nvidia. O CEO da OpenAI, Sam Altman, reforçou a capacidade do hardware, destacando sua rapidez em cenários de uso real.
Os resultados foram medidos no InferenceX, benchmark público da SemiAnalysis que compara sistemas comerciais de inferência sob a mesma experiência de usuário. Em GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T, o Jalapeño ficou na fronteira de Pareto de eficiência e latência, entregando de 1,5 a 1,9 vez mais trabalho de IA por watt no pico de throughput e latência ponta a ponta de 1,7 a 3,6 vez menor que os sistemas comparados; em cargas altamente interativas, o ganho chegou a 2,1–4,1 vezes. No Kimi K2.5, o maior modelo público testado, a vantagem foi de cerca de 1,5 vez em desempenho por watt e 3,4 vezes em latência menor frente ao GB300.
A OpenAI diz ter projetado o Jalapeño para também ser programado por IA: usando o Codex com o GPT-Astra, a equipe levou três modelos abertos fora do plano original de produção a alto desempenho em dois meses, e implementações geradas por IA para blocos selecionados de atenção e mixture-of-experts do GPT-OSS rodaram de 1,5 a 1,8 vez mais rápido que versões escritas por engenheiros — ganho restrito a esses blocos, não ao modelo inteiro. A empresa planeja começar a implantar o chip em sua infraestrutura até o fim do ano, como a primeira geração de um roadmap multigeracional — a segunda geração já está em desenvolvimento avançado e a terceira em formação —, e afirma que continuará usando aceleradores da Nvidia e de outros fornecedores.
Cobertura da mídia
Why OpenAI’s Jalapeño Might Sicken Nvidia
The Information • 25 ago, 21:00
A detailed look at Jalapeño, OpenAI's ASIC developed with Broadcom in 16 months, which beat Nvidia, AMD, and Google chips on multiple top open-source models (SemiAnalysis)
Techmeme • 25 ago, 12:15
Jalapeño’s first results show industry-leading speed and efficiency in AI inference
OpenAI Blog • 25 ago, 04:00
Comentários
Carregando comentários...
