Processadores Intel Xeon registram ganho de performance em IA
A Intel anunciou que seus processadores Xeon alcançaram um aumento de 2,4 vezes no throughput para o modelo Llama 3.1 8B no benchmark MLPerf.
||
22/09 às 11:10
Pontos principais
- Processadores Intel Xeon atingiram 2,4 vezes mais throughput de servidor para o modelo Llama 3.1 8B.
- O throughput offline cresceu 56% em relação à versão v6.0 do benchmark MLPerf Inference.
- Os ganhos de desempenho foram impulsionados por otimizações de software e de nível de sistema.
A Intel reportou avanços significativos no desempenho de seus processadores Xeon voltados para inteligência artificial, conforme dados do benchmark MLPerf Inference v6.1. A companhia registrou um aumento de 2,4 vezes no throughput de servidor ao executar o modelo Llama 3.1 8B.
Além do ganho em servidores, a empresa observou uma melhoria de 56% no throughput offline em comparação com a versão anterior do teste. Segundo a Intel, os resultados foram alcançados por meio de otimizações implementadas no software e no nível de sistema da infraestrutura.
Comentários
Carregando comentários...
