AMD MI355X supera desempenho por dólar do DGX B300
O processador AMD MI355X entrega 1,7 vez mais desempenho por dólar que o DGX B300, com nova otimização de memória desenvolvida com Alibaba.
||
23/09 às 11:40
Pontos principais
- AMD MI355X oferece até 1,7x mais desempenho por dólar que o DGX B300.
- Funcionalidade UnifiedRadixCache foi criada pela AMD China, Alibaba e projeto SGLang.
- Recurso elimina a duplicação de KVCache entre L2 DRAM local e L3 DRAM distribuída.
- Nova tecnologia permite armazenar até 2x mais KVCache na memória DRAM.
O processador AMD MI355X apresenta um desempenho por dólar até 1,7 vez superior ao do DGX B300, segundo dados da SemiAnalysis. O ganho de eficiência é impulsionado pelo lançamento do UnifiedRadixCache, uma funcionalidade desenvolvida pela equipe da AMD na China em colaboração com o Alibaba e o projeto SGLang.
A nova tecnologia otimiza o gerenciamento de memória ao remover a duplicação de KVCache entre a L2 DRAM local e a L3 DRAM distribuída. Com essa implementação, o sistema ganha capacidade para armazenar até duas vezes mais KVCache na memória DRAM.
Comentários
Carregando comentários...
