Emad Mostaque aponta custo de US$ 65 para processar 6 bilhões de tokens
O ex-CEO da Stability AI revelou que é possível processar 6 bilhões de tokens por um custo operacional de 65 dólares.
||
18/09 às 09:10
Pontos principais
- O custo operacional alcançou a marca de 65 dólares para 6 bilhões de tokens.
- A capacidade do modelo foi comparada às ferramentas Astra e Fable.
- A proposta sugere utilizar modelos de baixo custo para tarefas rotineiras.
- Modelos mais avançados devem ser acionados apenas quando necessário.
Emad Mostaque divulgou que o processamento de 6 bilhões de tokens pode ser realizado com um custo operacional de 65 dólares. O autor estabeleceu uma comparação entre a capacidade desse modelo e as ferramentas Astra e Fable.
A estratégia sugerida envolve a utilização de modelos de menor custo para a execução de tarefas rotineiras. O uso de modelos mais avançados deve ser reservado apenas para situações em que a complexidade da demanda exija maior capacidade técnica.
Comentários
Carregando comentários...
