TurboQuant do Google tende a aumentar demanda por chips de memória, não reduzi-la
Algoritmo que reduz 6x o uso de memória em IA libera gargalos e permite treinar modelos maiores; preços de DRAM subiram 55-60% no 1º trimestre.
Pontos principais
- TurboQuant reduz em 6x o uso de memória e acelera inferência em 8x
- Analistas concluem que eficiência vai aumentar demanda por chips, não reduzi-la
- Remover gargalos libera treinamento de modelos maiores (paradoxo de Jevons)
- Parâmetros de LLMs cresceram de 0,09 bilhão em 2019 para mais de 1 trilhão hoje
- Preços de DRAM contratual subiram 55-60% trimestre a trimestre no 1T26
- HBM consome 23% da produção total de wafers de DRAM, contra 19% no ano anterior
Analistas concluíram que o TurboQuant do Google, algoritmo detalhado em março que reduz em 6 vezes o uso de memória em modelos de IA e acelera inferência em 8 vezes, tende a aumentar a demanda por chips de memória em vez de reduzi-la. A lógica é o paradoxo de Jevons: remover gargalos libera o treinamento de modelos maiores e mais capazes.
Os parâmetros dos maiores LLMs cresceram de 0,09 bilhão em 2019 para mais de 1 trilhão hoje. Os preços de chips de memória DRAM já subiram 55-60% no primeiro trimestre, com HBM consumindo 23% da produção total de wafers de DRAM, ante 19% no ano anterior.
Comentários
Carregando comentários...