OpenAI otimiza sistema Habitat para suportar 1 bilhão de usuários
A OpenAI aprimorou o sistema Habitat com novas tecnologias para aumentar a velocidade de leitura do ChatGPT em 12 vezes.
||
23/10 às 13:32
Pontos principais
- A OpenAI escalou o sistema Habitat para atender a mais de 1 bilhão de usuários do ChatGPT.
- A estratégia de otimização utilizou multi-tenancy confiável e cache global.
- A integração com o Azure Cosmos DB resultou em uma aceleração de 12 vezes nas leituras do serviço.
A OpenAI detalhou melhorias no sistema Habitat para sustentar a escala de mais de 1 bilhão de usuários do ChatGPT. A empresa implementou estratégias de multi-tenancy confiável e cache global para otimizar a infraestrutura. Além disso, a integração com o Azure Cosmos DB permitiu que a velocidade de leitura do serviço fosse 12 vezes mais rápida.
Tópicos relacionados
Cobertura da mídia
Leia também
OpenAI reduz latência de leitura de 120ms para 10ms
23 out, 14:45
OpenAI expande plugins do ChatGPT com painéis e automações
29 set, 14:45
OpenAI otimiza cache de prompts no GPT-6 para reduzir custos
22 set, 17:45
OpenAI migra plataforma Habitat para Rust após atingir 22 mi de requisições
11 set, 14:03
OpenAI aprimora sistema de memória do ChatGPT com novos controles
4 jun, 13:34
Comentários (0)
Seja o primeiro a comentar.