Daily Journal
Daily Journal

Google otimiza modelo Gemma e triplica velocidade de processamento

O Google anunciou uma atualização no modelo gemma-4-E2B-it que aumenta a velocidade de processamento de tokens em 2,85 vezes.

Daily Journal
Foto: x.com
||
26/10 às 14:10

Pontos principais

  • A velocidade saltou de 37.900 para mais de 108.000 tokens por segundo.
  • A otimização utiliza a tecnologia Gemini 4 Argon.
  • Testes foram realizados em hardware A100 com o framework vLLM.
  • O Google garante que não houve perda de qualidade ou paridade de tokens.
  • O desenvolvedor Luciano Martins foi creditado pela implementação.

O Google implementou melhorias técnicas no modelo gemma-4-E2B-it, resultando em um ganho de 2,85 vezes na velocidade de processamento. Utilizando a tecnologia Gemini 4 Argon, a performance atingiu a marca de 108.000 tokens por segundo, superando a taxa anterior de 37.900 tokens por segundo.

Os testes foram conduzidos em hardware A100 com o suporte do vLLM. Segundo a empresa, a atualização mantém a paridade de tokens e não apresenta perda de qualidade, sendo as alterações documentadas em oito pull requests pelo desenvolvedor Luciano Martins.

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.