OpenAI otimiza cache de prompts no GPT-6 para reduzir custos
A OpenAI atualizou o sistema de cache de prompts do GPT-6, visando diminuir a latência e os custos operacionais para desenvolvedores.
||
22/09 às 17:45, atualizado 18:40
Pontos principais
- Implementação de descontos de até 90% para tokens de entrada em cache.
- Lançamento de um dashboard para monitorar taxas de acerto de cache.
- Introdução de breakpoints explícitos e nova API de diagnóstico.
- Funcionalidade de prewarm para pré-carregamento de contexto compartilhado.
A OpenAI anunciou melhorias no sistema de cache de prompts para a API do modelo GPT-6. A atualização introduz descontos de até 90% em tokens de entrada, além de novas ferramentas como um dashboard de monitoramento e uma API de diagnóstico. O sistema agora conta com breakpoints explícitos e a funcionalidade de prewarm, permitindo maior controle sobre o processamento e a redução da latência para agentes que utilizam a plataforma.
Tópicos relacionados
Cobertura da mídia
Leia também
OpenAI atualiza GPT-6 Astra Pro com foco em velocidade e agentes
16 out, 17:45
OpenAI lança modelos GPT-6 Sol e Luna com redução de 50% nos custos
22 set, 15:02
OpenAI reduz preços dos modelos GPT-5.6 Luna e Terra em até 80%
30 jul, 14:45
OpenAI lança GPT-5.6 com foco em eficiência e custo operacional
29 jul, 17:15
OpenAI lança modelo GPT-5.6 com foco em eficiência e agentes de IA
9 jul, 12:33
Comentários (0)
Seja o primeiro a comentar.