Google integra DiffusionGemma ao vLLM para tarefas estruturadas
Nova implementação permite extrair pontuações de confiança e distribuições de probabilidade do modelo DiffusionGemma usando o vLLM.
Pontos principais
- A integração possibilita o uso do DiffusionGemma em tarefas estruturadas com maior precisão.
- O vLLM é utilizado para extrair pontuações de confiança e distribuições de probabilidade.
- A funcionalidade é aplicada em perguntas de múltipla escolha ou sim/não.
- O processo ocorre em uma única etapa de denoising para garantir eficiência e escalabilidade.
- O código e a documentação técnica já estão disponíveis no GitHub.
O Google anunciou a integração do modelo DiffusionGemma ao vLLM, visando aprimorar a execução de tarefas estruturadas. A nova implementação permite que o modelo extraia pontuações de confiança e distribuições de probabilidade, sendo aplicada em questões de múltipla escolha ou de formato sim/não.
O procedimento é realizado por meio de uma única etapa de denoising, focando em eficiência e escalabilidade operacional. O código fonte e a documentação técnica do projeto foram disponibilizados publicamente na plataforma GitHub para consulta e utilização.
Cobertura da mídia
Leia também
Google facilita implantação do modelo DiffusionGemma-Jev no Cloud Run
22 set, 20:40
Google DeepMind apresenta modelo DiffusionGemma
18 set, 19:40
Modelos abertos Gemma, do Google, superam 1 bilhão de downloads
20 ago, 14:31
Google lança DiffusionGemma com geração de texto em paralelo
11 jun, 12:34
Google lança DiffusionGemma, modelo experimental de 26 bilhões de parâmetros
10 jun, 13:32
Comentários (0)
Seja o primeiro a comentar.
