OpenAI lança modo Ultrafast para o GPT-5.6 Sol com suporte da Cerebras
O novo serviço via API utiliza infraestrutura da Cerebras para acelerar o GPT-5.6 Sol em até 14 vezes, atingindo 750 tokens por segundo.
Pontos principais
- O modo Ultrafast está disponível em fase de prévia para usuários da API da OpenAI.
- A tecnologia permite uma taxa de entrega de até 750 tokens por segundo.
- A infraestrutura de processamento é fornecida pela empresa de hardware Cerebras.
- O recurso visa reduzir a latência em aplicações que exigem alta performance.
A OpenAI anunciou o lançamento do modo Ultrafast, uma nova camada de serviço para o modelo GPT-5.6 Sol. Desenvolvida em parceria com a Cerebras, a tecnologia utiliza hardware especializado para otimizar o processamento de linguagem, permitindo que o modelo opere com velocidades até 14 vezes superiores ao padrão atual. O sistema é capaz de gerar até 750 tokens de saída por segundo, uma marca significativa para o setor de IA generativa. A iniciativa, atualmente em fase de prévia para usuários da API, busca atender à crescente demanda por aplicações que exigem baixa latência e alta performance em tempo real. Com essa integração, a OpenAI reforça sua estratégia de infraestrutura para escalar a eficiência de seus modelos mais avançados, permitindo interações mais rápidas e fluidas para desenvolvedores e empresas que dependem de respostas imediatas de sistemas de LLM.
Tópicos relacionados
Comentários
Carregando comentários...
