Equipe da EmbeddedLLM ganha acesso a cluster de GPUs MI355X da AMD
A EmbeddedLLM obteve acesso a um cluster de GPUs MI355X para otimizar o suporte ao vLLM após intervenção junto à liderança da AMD.
Pontos principais
- A EmbeddedLLM atua como principal mantenedora do vLLM ROCm.
- O acesso ao cluster persistente foi liberado após maio de 2026.
- A parceria visa aprimorar a compatibilidade do hardware MI355X com o vLLM.
A equipe da EmbeddedLLM, responsável pela manutenção e pelo código do vLLM ROCm, obteve acesso a um cluster persistente de GPUs MI355X. A liberação do recurso ocorreu após uma intervenção direta junto à liderança da AMD, que viabilizou a infraestrutura necessária para o desenvolvimento técnico.
O objetivo da iniciativa é otimizar o desempenho e a compatibilidade do hardware MI355X dentro do ecossistema vLLM. A mudança marca uma nova etapa para os mantenedores, que anteriormente não possuíam acesso contínuo a esse ambiente de processamento.
Cobertura da mídia
Leia também
Google, AMD e NVIDIA avançam em otimização de inferência com megakernels
21 out, 21:15
AMD implementa suporte para MegaKernel Decode no vLLM antes da Nvidia
13 out, 00:10
AMD atinge 90% de paridade em testes de integração com vLLM
3 out, 13:10
Projeto vLLM enfrenta instabilidade em hardware AMD
18 set, 11:40
AMD aumenta em 11 vezes desempenho do vLLM no hardware MI355X
7 set, 14:40
Comentários (0)
Seja o primeiro a comentar.
