Nvidia inicia produção em escala de racks LPX para inferência de IA
Nova tecnologia promete reduzir a latência em agentes inteligentes com performance de até 3,4 mil tokens por segundo.
Pontos principais
- A Nvidia colocou em produção total os novos racks LPX voltados para inferência de IA com ultra-baixa latência.
- Cada rack LPX é equipado com 256 chips Groq 3, fruto da recente aquisição da startup pela Nvidia.
- A plataforma utiliza memória SRAM de alta velocidade para acelerar a geração de tokens e eliminar gargalos.
- A tecnologia será integrada à nuvem Nebius em 2026, operando junto a processadores Vera e unidades gráficas Rubin.
- Os chips Groq funcionam como complemento às GPUs, focando especificamente em cargas de trabalho de inferência.
A Nvidia anunciou o início da produção em escala de seus novos racks LPX, focados em otimizar a inferência de inteligência artificial. Desenvolvida a partir da aquisição da startup Groq, a tecnologia utiliza chips Groq 3 e memória SRAM de alta velocidade para oferecer uma capacidade de resposta até quatro vezes superior em agentes inteligentes, atingindo uma performance de 3,4 mil tokens por segundo. A inovação é um passo estratégico para reduzir gargalos em aplicações que exigem tempo de resposta imediato.
A implementação dos racks está prevista para 2026, com a Neocloud Nebius como um dos primeiros parceiros a integrar o sistema. Segundo a Nvidia, os chips Groq não substituem as GPUs tradicionais, mas atuam como um complemento especializado para cargas de trabalho de inferência, permitindo que a infraestrutura de data center lide com demandas mais complexas de forma eficiente.