Aluguel de GPUs dispara enquanto preço médio do token cai 58%
A a16z aponta alta do aluguel de GPUs e queda do preço médio por token desde julho, mas estima que o gasto total com tokens siga subindo.
Pontos principais
- O aluguel da GPU B300 subiu 106% desde meados de julho.
- O aluguel da GPU B200 subiu 66% e o da H100, 17%, no mesmo período.
- O preço médio por token caiu 58% no mesmo período.
- Pelas contas da a16z, o gasto total com tokens subiu cerca de 160% desde maio, combinando o índice da Ornn com o volume da OpenRouter.
- Com os dados da Ramp, a estimativa de alta do gasto com tokens é de cerca de 122%.
- A a16z registra alta no custo de seguro da dívida que financia a expansão de IA desde meados do verão.
A a16z chama o gráfico de “Rack Spread” e acha imprecisa a analogia com o crack spread do petróleo. O mercado parece ler nele um sinal de demanda fraca por IA, mas a casa diz que os índices de preço por token vêm de amostras pequenas e enviesadas, que não medem consumo real.
O custo do crédito em geral também subiu, o que torna o indicador ambíguo. A a16z não toma partido, mas nota que, por ora, prevalece o lado pessimista.
Fontes primárias
The "Rack Spread" is unfolding, token prices are falling while GPU prices climb
Variação desde meados de julho: aluguel de B300 +106%, B200 +66%, H100 +17%; preço médio dos tokens −58%. O post aponta o gráfico como a 'Rack Spread' e remete ao Charts of the Week do dia, onde o gráfico é discutido.
Charts of the Week: Job FUD Fades (seção 'Rack Spread Cometh (But Why)?')
A seção descreve o gráfico em que preços de tokens caem enquanto aluguéis de GPU sobem, nomeado 'Rack Spread' a partir da analogia com o crack spread do petróleo (GPUs como petróleo bruto, tokens como derivados). O texto argumenta que os índices de preço por token (Ornn, Silicon Data, OpenRouter, Ramp) vêm de amostras pequenas e enviesadas e não medem consumo real; que o gasto total com tokens segue subindo (estimativa própria de ~160% desde maio com Ornn × OpenRouter e ~122% com dados da Ramp); e que o custo de seguro da dívida do ciclo de investimento em IA subiu desde o meio do verão. Conclui que a relação entre os dois preços é um sinal pouco confiável sozinho.
