OpenAI revela chip Jalapeño com desempenho superior a rivais em IA
O novo chip ASIC da OpenAI superou hardware da Nvidia e Google em testes de inferência, destacando-se pela eficiência energética e menor latência.
Pontos principais
- O Jalapeño é um chip ASIC desenvolvido pela OpenAI em parceria com a Broadcom ao longo de 16 meses.
- Testes no benchmark InferenceX indicam que o chip oferece maior throughput por quilowatt que os padrões atuais.
- O hardware entregou de 1,5 a 1,9 vezes mais trabalho de IA por watt em comparação a chips da Nvidia.
- A latência registrada foi de 1,7 a 3,6 vezes menor que a de concorrentes em modelos como GPT-OSS e DeepSeek R1.
- O componente possui um TDP (Thermal Design Power) de 700W, conforme detalhado na conferência Hot Chips.
- O chip superou soluções da Nvidia, AMD e Google em diversos testes com modelos de código aberto.
A OpenAI apresentou oficialmente o Jalapeño, seu primeiro chip ASIC personalizado voltado para a inferência de inteligência artificial. Desenvolvido em colaboração com a Broadcom em um ciclo de 16 meses, o hardware foi projetado para otimizar a execução de modelos complexos em larga escala. Detalhes técnicos revelados durante a conferência Hot Chips indicam que o componente opera com um TDP de 700W, focando em maximizar a eficiência energética e a velocidade de processamento. Os resultados de desempenho foram validados pelo benchmark InferenceX da Semianalysis, que destacou a capacidade do chip em superar tecnologias de mercado consolidadas. Em testes comparativos utilizando modelos como GPT-OSS, DeepSeek R1 e Kimi K2.5 1T, o Jalapeño demonstrou uma latência significativamente reduzida e um throughput superior por quilowatt em relação aos chips da Nvidia, AMD e Google. A introdução deste hardware próprio representa um movimento estratégico da OpenAI para reduzir a dependência de fornecedores externos e otimizar o custo total de propriedade (TCO) de sua infraestrutura de data center. Ao focar em inferência, a empresa busca atender à crescente demanda por processamento eficiente de modelos de linguagem, garantindo maior escalabilidade para suas aplicações de IA.
Comentários
Carregando comentários...