O que é o muro da memória
O muro da memória (em inglês, memory wall) é o limite de desempenho que aparece quando o processador calcula mais rápido do que a memória consegue entregar os dados. A partir desse ponto, acelerar o processador não acelera o programa: o chip passa parte do tempo parado, esperando dados. O termo foi cunhado em 1995 pelos cientistas da computação William Wulf e Sally McKee, da Universidade da Virgínia.
Em 2026 o termo voltou ao centro da indústria de chips porque os modelos de inteligência artificial dependem mais da velocidade da memória do que da capacidade de cálculo, o que fez da memória HBM o componente mais disputado dos data centers.
Origem do termo
O artigo "Hitting the Memory Wall: Implications of the Obvious", de Wulf e McKee, saiu em março de 1995 na revista ACM SIGARCH Computer Architecture News. O argumento era simples:
- A velocidade dos processadores crescia cerca de 80% ao ano, e a da memória DRAM, cerca de 7%.
- A diferença entre duas curvas exponenciais também cresce exponencialmente. Mesmo com caches quase perfeitos, cada acesso à memória custaria, em média, dezenas ou centenas de ciclos do processador em 10 a 15 anos.
- Os autores calcularam que o "muro" seria atingido quando o tempo médio de acesso passasse de 5 ciclos; a partir daí, o desempenho do sistema dependeria só da memória.
Wulf e McKee escreveram que a própria previsão "provavelmente está errada", mas que técnicas como caches maiores só adiavam o problema, sem mudar seus fundamentos. Antes deles, em 1990, John Ousterhout já havia apontado o descompasso ao analisar o desempenho de sistemas operacionais.
Por que o muro da memória importa para a IA
Em março de 2024, pesquisadores da Universidade da Califórnia em Berkeley liderados por Amir Gholami publicaram o artigo "AI and Memory Wall", que levou o conceito para a era dos grandes modelos de linguagem. Segundo eles, nos 20 anos anteriores:
- a capacidade de cálculo de pico dos servidores (FLOPS) cresceu 3 vezes a cada 2 anos;
- a largura de banda da memória DRAM cresceu 1,6 vez a cada 2 anos;
- a das conexões entre chips, 1,4 vez a cada 2 anos.
O resultado, dizem os autores, é que a memória, e não o cálculo, virou o principal gargalo da IA, sobretudo na inferência (quando o modelo já treinado responde ao usuário). Para gerar cada palavra, um modelo do tipo decodificador precisa ler da memória todos os seus pesos e o KV cache, a memória de curto prazo da conversa. Contextos mais longos e mais usuários simultâneos aumentam o KV cache. Segundo o HPCwire, cerca de um terço da HBM de um acelerador costuma ficar reservada a ele.
HBM, a memória dos chips de IA
A HBM (high bandwidth memory, memória de alta largura de banda) é a principal resposta da indústria ao muro da memória. São chips de DRAM empilhados em camadas, de 12 a 16 no caso da Micron, montados ao lado do processador para encurtar a distância que os dados percorrem. A GPU Rubin, da NVIDIA, leva até 288 GB de HBM4 por chip, segundo a CNBC.
- Quem fabrica: três empresas dominam a produção: SK Hynix e Samsung, da Coreia do Sul, e a Micron, dos Estados Unidos.
- Custo de produção: segundo a Micron, cada bit de HBM produzido custa à fábrica três bits de memória comum que deixam de ser feitos.
- Escassez: em janeiro de 2026 a Micron disse estar com a produção do ano esgotada, e a SK Hynix já havia vendido toda a capacidade de 2026 em outubro de 2025. No terceiro trimestre de 2026, a receita mundial de DRAM subiu 369% em um ano, para quase US$ 200 bilhões, puxada por preços, segundo a Counterpoint Research. A SK Hynix afirma que a falta de memória deve durar até 2030.
Como a indústria tenta contornar o muro
- Hierarquia de memória por software: em agosto de 2025, a Huawei apresentou o Unified Cache Manager (UCM), que distribui o KV cache entre HBM, DRAM comum e SSD conforme a latência exigida. A empresa diz ter reduzido a latência da inferência em até 90% em testes. A ferramenta interessa à China, que tem acesso restrito à HBM pelos controles de exportação de chips dos Estados Unidos.
- High Bandwidth Flash (HBF): memória flash NAND empilhada como a HBM, com até 512 GB por pilha e de 0,4 a 3,0 TB/s de banda. A SK Hynix e a Sandisk publicaram a primeira especificação do padrão pelo Open Compute Project em agosto de 2026, com Google e Tenstorrent no consórcio. A HBF escreve devagar, mas o KV cache é sobretudo lido, o que a torna candidata a guardá-lo; a produção estava prevista para cerca de um ano depois.
- Modelos menores ou contextos mais curtos: diminuem o volume de dados que precisa passar pela memória. O artigo de Berkeley defende redesenhar a arquitetura, o treinamento e a implantação dos modelos tendo a memória como limite.
Linha do tempo
- 1990: John Ousterhout aponta que o desempenho dos sistemas não acompanha a velocidade dos processadores.
- Março de 1995: Wulf e McKee publicam "Hitting the Memory Wall" e cunham o termo.
- Março de 2024: o artigo "AI and Memory Wall", de Berkeley, mostra o gargalo da memória nos grandes modelos de linguagem.
- Agosto de 2025: Huawei lança o Unified Cache Manager.
- Janeiro de 2026: Micron diz estar com a produção de memória de 2026 esgotada.
- Agosto de 2026: SK Hynix e Sandisk publicam a especificação da High Bandwidth Flash.
- Novembro de 2026: Counterpoint registra alta de 369% na receita mundial de DRAM no terceiro trimestre.
Termos importantes
- Largura de banda: quantidade de dados que a memória entrega por segundo.
- Latência: tempo de espera entre o pedido de um dado e sua chegada.
- HBM (High Bandwidth Memory): memória DRAM empilhada ao lado do processador, usada em aceleradores de IA.
- HBF (High Bandwidth Flash): memória flash empilhada, com mais capacidade e custo menor que a HBM, em padronização.
- KV cache: dados intermediários que o modelo guarda durante uma conversa para não recalcular o que já leu.
- Inferência: execução de um modelo já treinado; é onde o muro da memória pesa mais.
Perguntas frequentes
O que é o muro da memória?
É o gargalo que surge quando o processador calcula mais rápido do que a memória entrega os dados, de modo que acelerar o processador deixa de acelerar o sistema. O termo memory wall foi cunhado por William Wulf e Sally McKee em 1995.
Quem criou o termo memory wall?
William Wulf e Sally McKee, da Universidade da Virgínia, no artigo "Hitting the Memory Wall: Implications of the Obvious", de março de 1995.
Qual a relação entre o muro da memória e a IA?
Os modelos de IA precisam ler todos os pesos e o KV cache da memória para gerar cada palavra. Como a capacidade de cálculo cresceu muito mais rápido que a largura de banda da memória, a memória virou o principal limite de desempenho, sobretudo na inferência.
O que é HBM e por que ela está em falta?
HBM é a memória de alta largura de banda empilhada ao lado dos chips de IA. Só três empresas a fabricam em escala (SK Hynix, Samsung e Micron), e a demanda dos data centers esgotou a produção de 2026.
Notícias relacionadas
Tecnologia HiSparse otimiza uso de memória HBM em modelos de IA
16 de out, 2026
Relatório defende uso de HBM de 4 camadas para otimizar inferência de IA
13 de set, 2026
Samsung e SK hynix disputam soluções para o gargalo de memória em IA
24 de ago, 2026
Escassez de memória HBM eleva custos e pressiona setor de IA
17 de ago, 2026
Nvidia estuda reduzir memória da GPU Rubin Ultra por escassez de HBM
6 de ago, 2026
