Anthropic reduz latência e melhora tempo de resposta do Claude
A Anthropic implementou otimizações técnicas na infraestrutura do Claude Code e da Messages API para acelerar o processamento de dados.
Pontos principais
- Claude Code adotou compressão gzip para agilizar a transmissão de conversas.
- Sessões na nuvem iniciam o carregamento assim que o usuário começa a digitar.
- Messages API teve o processamento prévio reduzido antes das requisições.
- O tempo para o primeiro token foi diminuído na API.
- Requisições para a API deixaram de ser armazenadas em buffer durante o envio.
A Anthropic anunciou melhorias na infraestrutura do Claude Code e da Messages API visando a redução da latência e do tempo de resposta. Entre as mudanças, o Claude Code passou a utilizar compressão gzip para acelerar a transmissão de dados, enquanto sessões na nuvem agora iniciam o carregamento no momento em que o usuário começa a digitar.
Na Messages API, a empresa reduziu o processamento prévio antes do envio das requisições e eliminou o armazenamento em buffer durante o processo. Essas alterações resultaram em uma diminuição direta no tempo para o primeiro token, tornando a interação com o modelo mais ágil.
Cobertura da mídia
Leia também
Anthropic atualiza Claude Code com foco em sessões na nuvem
6 nov, 17:15
Anthropic lança beta público de threads na Messages API
2 nov, 16:48
Anthropic amplia limite de requisições na API do Claude para 128 MB
29 out, 19:10
Anthropic triplica velocidade do Claude.ai em duas semanas
23 set, 16:45
Anthropic amplia recursos de segurança para agentes do Claude
19 mai, 06:03
Comentários (0)
Seja o primeiro a comentar.
