Daily Journal
Daily Journal

OpenAI lança modo Ultrafast para o GPT-5.6 Sol com suporte da Cerebras

O novo serviço via API utiliza infraestrutura da Cerebras para acelerar o GPT-5.6 Sol em até 14 vezes, atingindo 750 tokens por segundo.

Daily Journal
||
13/08 às 14:04 · atualizado 15:04

Pontos principais

  • O modo Ultrafast está disponível em fase de prévia para usuários da API da OpenAI.
  • A tecnologia permite uma taxa de entrega de até 750 tokens por segundo.
  • A infraestrutura de processamento é fornecida pela empresa de hardware Cerebras.
  • O recurso visa reduzir a latência em aplicações que exigem alta performance.

A OpenAI anunciou o lançamento do modo Ultrafast, uma nova camada de serviço para o modelo GPT-5.6 Sol. Desenvolvida em parceria com a Cerebras, a tecnologia utiliza hardware especializado para otimizar o processamento de linguagem, permitindo que o modelo opere com velocidades até 14 vezes superiores ao padrão atual. O sistema é capaz de gerar até 750 tokens de saída por segundo, uma marca significativa para o setor de IA generativa. A iniciativa, atualmente em fase de prévia para usuários da API, busca atender à crescente demanda por aplicações que exigem baixa latência e alta performance em tempo real. Com essa integração, a OpenAI reforça sua estratégia de infraestrutura para escalar a eficiência de seus modelos mais avançados, permitindo interações mais rápidas e fluidas para desenvolvedores e empresas que dependem de respostas imediatas de sistemas de LLM.

Tópicos relacionados

Comentários

Carregando comentários...