Chips da AMD geram até US$ 3 por hora com modelo Kimi K3
Análise aponta que hardware da AMD supera limitações de memória da Nvidia ao rodar o modelo Kimi K3, otimizando a rentabilidade por servidor.
Pontos principais
- Chips da AMD podem gerar US$ 3 por hora em lucro líquido ao executar o Kimi K3.
- O modelo Kimi K3 conta com 2,8 trilhões de parâmetros.
- A capacidade de 288GB de memória por chip da AMD permite processamento em servidor único.
- O hardware B200 da Nvidia exige paralelismo devido a restrições de memória.
- A comunicação externa via InfiniBand ou Ethernet é 18 vezes mais lenta que o NVLink.
Relatório da SemiAnalysis indica que chips da AMD alcançam um lucro líquido de até US$ 3 por hora ao processar o modelo de linguagem Kimi K3. A eficiência operacional é atribuída à capacidade de 288GB de memória por chip, que permite a execução do modelo de 2,8 trilhões de parâmetros em um único servidor.
Em contrapartida, o hardware B200 da Nvidia necessita de paralelismo para rodar o mesmo modelo devido a limitações de memória. A análise destaca que a comunicação entre servidores via InfiniBand ou Ethernet é 18 vezes mais lenta do que a largura de banda interna oferecida pelo domínio NVLink.
Tópicos relacionados
Cobertura da mídia
Leia também
AMD supera desempenho do chip B200 da Nvidia em inferência agentica
31 out, 16:40
AMD MI355X apresenta alto desempenho em inferência para modelo M3.1
24 out, 11:10
Hardware NVIDIA B200 pode gerar US$ 15 bilhões por gigawatt
25 set, 12:40
AMD supera margem de lucro da NVIDIA em benchmark de inferência
18 set, 17:40
AMD MI355x supera B300 em custo por token no benchmark AgentX
4 set, 01:40
Comentários (0)
Seja o primeiro a comentar.
