Nvidia inicia produção do acelerador Groq 3 LPX com novos clientes

A Nvidia anunciou o início da produção em larga escala do seu novo acelerador de inferência, o Groq 3 LPX, marcando um passo importante na expansão do portfólio da companhia para além das GPUs tradicionais. A empresa de nuvem de IA Nebius foi confirmada como a primeira cliente da tecnologia, que foi desenvolvida após a compra da startup Groq por US$ 20 bilhões em dezembro passado. Paralelamente, a SpaceXAI oficializou a adoção das novas CPUs Vera, que serão integradas aos sistemas de processamento da companhia.

O sistema Groq 3 LPX foi projetado para otimizar o processamento de baixa latência, utilizando 256 chips por rack e alcançando a capacidade de 3.400 tokens por segundo. A tecnologia visa reduzir gargalos de memória em agentes de IA, permitindo a oferta de serviços mais eficientes. Enquanto as GPUs da Nvidia permanecem focadas em treinamento e uso geral, os chips Groq são direcionados a tarefas específicas de decodificação, reforçando a estratégia da empresa de diversificar sua infraestrutura de hardware para o mercado de inteligência artificial.