DeepSeekv4.1 Flash apresenta compatibilidade imediata com vLLM da NVIDIA
O novo modelo DeepSeekv4.1 Flash funciona nativamente em seis SKUs da NVIDIA, enquanto suporte para hardware da AMD segue indisponível.
||
11/09 às 17:10
Pontos principais
- O DeepSeekv4.1 Flash é compatível com vLLM da NVIDIA nas SKUs H100, H200, B200, B300, GB200 e GB300.
- A AMD ainda não disponibilizou a imagem vllm-openai-rocm necessária para a execução do modelo.
- A documentação da AMD indica uma imagem que permanece inacessível ao público 23 horas após o lançamento.
O modelo DeepSeekv4.1 Flash demonstrou compatibilidade imediata com o vLLM da NVIDIA logo após o seu lançamento. A integração funciona sem falhas em seis SKUs da fabricante, incluindo os modelos H100, H200, B200, B300, GB200 e GB300.
Em contrapartida, o suporte para hardware da AMD ainda não está disponível. Passadas 23 horas do lançamento, a empresa não liberou publicamente a imagem vllm-openai-rocm necessária para rodar o modelo, apesar de haver menções ao arquivo em sua documentação técnica.
Comentários
Carregando comentários...
