OpenAI disponibiliza Decisions API para decisões em tempo quase real

Pontos principais

• A Decisions API está disponível para uso geral, construída sobre o GPT-6 Luna.
• Responde perguntas de resposta limitada em três formatos: predicate (probabilidade de uma condição ser verdadeira), choice (uma opção entre valores predefinidos) e score (média ponderada dos níveis de uma rubrica).
• Segundo a OpenAI, é até 10 vezes mais rápida que o GPT-6 Luna pela Responses API.
• Aceita entradas de texto, imagens e JSON nativo; as perguntas podem incluir imagens nas instruções.
• Aceita até 400 perguntas por requisição, o dobro do limite anterior.
• Preço de US$ 0,10 por milhão de tokens de entrada e US$ 0,01 por milhão em entrada cacheada; não há cobrança por tokens de saída.
• Integração nativa com GPT-Live para decisões durante conversas de voz, como escolher a próxima ação de um agente de suporte.
• Residência de inferência nos EUA e na UE; Zero Data Retention disponível para clientes elegíveis.
• A Sierra relata p95 abaixo de 280 ms, cerca de 3 vezes mais rápido e 90% mais barato por chamada; a Speak relata cair de 1,4 s para 0,13 s o tempo até a próxima ação no GPT-Live.
• A Box relata seleção de rota cerca de 5 vezes mais rápida, com a mesma acurácia da Responses API; a Datadog, p95 40 vezes mais rápido na avaliação de comandos de shell.
• A Ramp relata atribuição de custos de IA 4 vezes mais rápida e 30% mais barata que com o GPT-6 Luna.
• Os números de desempenho são relatados pelos próprios clientes e pela OpenAI, não por benchmarks independentes.