TurboQuant do Google comprime memória de IA em 6x e apaga ~$100bi em ações de chips
Algoritmo reduz KV cache de LLMs em pelo menos 6x sem perda de precisão; Micron caiu 15% na semana, SK Hynix -6%, Samsung -5%.
Pontos principais
- TurboQuant usa PolarQuant + Quantized Johnson-Lindenstrauss para compressão de 3 bits
- Redução de pelo menos 6x no uso de memória KV cache sem perda de acurácia
- Até 8x mais rápido em operações de atenção em GPUs NVIDIA H100
- Não requer retreinamento de modelos existentes
- Ações de memória perderam ~$100bi na semana: Micron -15%, SK Hynix -6%, Samsung -5%
- Paper será apresentado na ICLR 2026; analistas invocam Paradoxo de Jevons
O Google Research publicou o TurboQuant, algoritmo de compressão em dois estágios que reduz o KV cache de inferência de LLMs em pelo menos 6x sem perda de acurácia, alcançando precisão de 3 bits e até 8x mais velocidade em operações de atenção em GPUs H100 da NVIDIA — sem necessidade de retreinar modelos.
O impacto no mercado foi imediato: ações de chips de memória perderam ~$100 bilhões em valor na semana, lideradas por Micron (-15%), SK Hynix (-6%) e Samsung (-5%). O temor de redução na demanda por memória HBM para IA provocou vendas em cadeia. Analistas contrapõem invocando o Paradoxo de Jevons — ganhos de eficiência podem aumentar a demanda total via adoção mais ampla. O paper será apresentado na ICLR 2026.
Comentários
Carregando comentários...