Thomas Wolf estima em US$ 1 bilhão o treino de modelos abertos no Hub
Pela estimativa de Thomas Wolf, alugar as GPUs que treinaram 75 famílias de modelos abertos no Hugging Face custaria cerca de US$ 991 milhões, valor que exclui fine-tunes da comunidade e outros gastos.
Pontos principais
- A estimativa central é de US$ 991 milhões, e a mediana, de US$ 1,02 bilhão.
- A faixa realista, entre os percentis 10 e 90, vai de US$ 816 milhões a US$ 1,35 bilhão.
- Usando só os insumos que os desenvolvedores publicaram, o valor central cai para US$ 502 milhões.
- São contadas as corridas finais de pré e pós-treino de 75 famílias oficiais, de 35 organizações.
- As horas de GPU vêm dos model cards quando publicadas; quando não, a conta é 6 × parâmetros ativos × tokens de treino, e os tokens às vezes são estimados.
- Os preços são US$ 2,50 por hora de H100, US$ 2 por hora de A100 ou H800 e US$ 5 por hora de B200.
- Ficam de fora cerca de 900 mil fine-tunes da comunidade, experimentos e corridas que falharam, salários e datasets.
- Os cenários extremos, de US$ 317 milhões a US$ 3,9 bilhões, não são intervalos de confiança.
Thomas Wolf, da Hugging Face, estima quanto custaria alugar as GPUs que treinaram os modelos abertos do Hub. Trata-se de uma conta a preços de aluguel, não de gasto registrado, e o próprio autor a chama de aproximação grosseira. Entre os laboratórios incluídos estão Meta e NVIDIA, dos Estados Unidos, Alibaba, da China, e Mistral, da França.
Pela série mensal publicada por Thomas Wolf, o total por mês de lançamento ficava abaixo de US$ 40 milhões em dezembro de 2023 e chega a cerca de US$ 991 milhões em outubro de 2026. O autor apresenta o valor como piso do que foi gasto, não como custo total do treinamento.
Cobertura da mídia
Comentários
Carregando comentários...