OpenAI migra plataforma Habitat para Rust após atingir 22 mi de requisições
A OpenAI evoluiu o sistema de armazenamento Habitat para suportar 1 bilhão de usuários do ChatGPT e 22 milhões de requisições por segundo.
||
11/09 às 14:03, atualizado 17:40
Pontos principais
- A plataforma Habitat sustenta serviços como ChatGPT e Codex.
- O sistema evoluiu de uma biblioteca Python para um armazenamento distribuído globalmente.
- A infraestrutura atual processa 22 milhões de requisições por segundo.
- A OpenAI migrou o serviço para Rust após o crescimento de 10 vezes no tráfego anual.
- A empresa documentou lições sobre gerenciamento de event-loop e pool de conexões em larga escala.
A OpenAI detalhou a evolução da sua plataforma de armazenamento Habitat, que passou de uma biblioteca Python para um sistema global capaz de suportar 1 bilhão de usuários do ChatGPT. O serviço, que sustenta ferramentas como o Codex, atingiu a marca de 22 milhões de requisições por segundo. Para lidar com o crescimento de 10 vezes no tráfego anual, a empresa migrou a infraestrutura para Rust e compartilhou aprendizados técnicos sobre o gerenciamento de conexões em larga escala.
Tópicos relacionados
Cobertura da mídia
Leia também
OpenAI reduz latência de leitura de 120ms para 10ms
23 out, 14:45
OpenAI otimiza sistema Habitat para suportar 1 bilhão de usuários
23 out, 13:32
OpenAI atinge marca de um bilhão de usuários ativos
31 jul, 16:45
OpenAI atinge 1 bilhão de usuários ativos após redução de preços
31 jul, 14:15
OpenAI atinge 10 milhões de usuários com Codex e ChatGPT Work
21 jul, 10:31
Comentários (0)
Seja o primeiro a comentar.