---
title: "Nvidia amplia desempenho de modelos de IA com otimização no vLLM"
url: https://dailyjournal.news/news/2026-10-18/nvidia-amplia-desempenho-de-modelos-de-ia-com-otimizacao-no-vllm
published: 2026-10-18T01:40:32.867763+00:00
updated: 2026-10-18T01:40:32.867763+00:00
categories: ["technology"]
source_count: 1
outlet_count: 0
language: pt-BR
publisher: "Daily Journal"
---

# Nvidia amplia desempenho de modelos de IA com otimização no vLLM

Nova otimização da Nvidia aumenta em 1,68 vezes a velocidade de processamento do modelo Kimi K3, atingindo 423 tokens por segundo por usuário.

## Pontos principais

- A otimização foi aplicada ao modelo Kimi K3, que possui 2,8 trilhões de parâmetros.
- O desempenho registrado foi de 423 tokens por segundo por usuário.
- O ganho de velocidade de 1,68 vezes foi obtido mantendo o mesmo hardware.
- A melhoria foi desenvolvida pela Nvidia CentML com novos kernels de decodificação.
- A empresa trabalha para implementar as otimizações no modelo DeepSeekv4.1.

A Nvidia anunciou uma otimização no vLLM que elevou a velocidade de processamento do modelo Kimi K3, de 2,8 trilhões de parâmetros, para 423 tokens por segundo por usuário. O ganho de desempenho representa um aumento de 1,68 vezes em relação à performance anterior, utilizando o mesmo hardware.

O avanço foi desenvolvido pela equipe da Nvidia CentML por meio da aplicação de novos kernels de decodificação em Cute DSL com fusão Megakernel. A companhia informou que já está trabalhando na implementação dessas otimizações para o modelo DeepSeekv4.1.

## Fontes

- [@SemiAnalysis_: BREAKING NEWS🚨: NVIDIA has just achieved 423 tok/s/user 🚀 on the 2.8T Parameter Kimi K3 model via a new upstream vLLM optimization. 1.68x Faster on the Same Hardware!](https://x.com/SemiAnalysis_/status/2111627094878790023) (2026-10-18)

---

Publicado por Daily Journal. Versão HTML: https://dailyjournal.news/news/2026-10-18/nvidia-amplia-desempenho-de-modelos-de-ia-com-otimizacao-no-vllm
