Daily Journal
Daily Journal

Chips da AMD geram até US$ 3 por hora com modelo Kimi K3

Análise aponta que hardware da AMD supera limitações de memória da Nvidia ao rodar o modelo Kimi K3, otimizando a rentabilidade por servidor.

Daily Journal
Foto: x.com
||
25/10 às 20:40, atualizado 27/10 às 11:58

Pontos principais

  • Chips da AMD podem gerar US$ 3 por hora em lucro líquido ao executar o Kimi K3.
  • O modelo Kimi K3 conta com 2,8 trilhões de parâmetros.
  • A capacidade de 288GB de memória por chip da AMD permite processamento em servidor único.
  • O hardware B200 da Nvidia exige paralelismo devido a restrições de memória.
  • A comunicação externa via InfiniBand ou Ethernet é 18 vezes mais lenta que o NVLink.

Relatório da SemiAnalysis indica que chips da AMD alcançam um lucro líquido de até US$ 3 por hora ao processar o modelo de linguagem Kimi K3. A eficiência operacional é atribuída à capacidade de 288GB de memória por chip, que permite a execução do modelo de 2,8 trilhões de parâmetros em um único servidor.

Em contrapartida, o hardware B200 da Nvidia necessita de paralelismo para rodar o mesmo modelo devido a limitações de memória. A análise destaca que a comunicação entre servidores via InfiniBand ou Ethernet é 18 vezes mais lenta do que a largura de banda interna oferecida pelo domínio NVLink.

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.