OpenAI detalha chip Jalapeño com foco em eficiência de IA
O novo acelerador de inferência da OpenAI, desenvolvido com Broadcom, supera chips da Nvidia em eficiência energética e latência.
Pontos principais
- O Jalapeño utiliza uma arquitetura NUMA com 64 fatias de memória e processamento para reduzir gargalos de dados.
- O chip oferece até 13,4 MXFP4 PFLOPS de desempenho com um consumo de 700W.
- Testes indicam que o hardware entrega entre 1,5x e 1,9x mais desempenho por watt que os sistemas GB200 e GB300 da Nvidia.
- O desenvolvimento do chip foi acelerado pelo uso de modelos de IA da própria OpenAI para otimizar o design e o layout do circuito.
- Um sistema completo pode escalar até 2.048 processadores, atingindo 27 EFLOPS de performance em formato MXFP4.
- O projeto, co-desenvolvido com a Broadcom, alcançou o tape-out em apenas nove meses.
A OpenAI apresentou na conferência Hot Chips 2026 os detalhes técnicos do Jalapeño, seu primeiro acelerador de inferência customizado. Projetado em parceria com a Broadcom, o chip utiliza uma arquitetura de memória fatiada para garantir baixa latência e alta largura de banda, permitindo que os dados permaneçam próximos aos recursos de computação. Segundo a empresa, o hardware foi otimizado especificamente para lidar com as fases de preenchimento, rascunho e verificação de modelos de linguagem, superando a eficiência energética de soluções concorrentes da Nvidia.
Um diferencial do projeto foi o uso intensivo de modelos de IA para auxiliar no design do hardware, resultando em melhorias significativas na área do die e no desempenho de unidades aritméticas. A OpenAI já confirmou que o desenvolvimento da segunda geração do chip está em estágio avançado, enquanto a terceira geração já se encontra em fase operacional. O sistema é capaz de escalar até 2.048 unidades em um único pod, oferecendo uma infraestrutura robusta para cargas de trabalho de agentes de IA.
Tópicos relacionados
Cobertura da mídia
Comentários
Carregando comentários...