OpenAI detalha nova estrutura de anúncios para o ChatGPT
A OpenAI descreve uma arquitetura de anúncios baseada em LLM, executada em serviço separado da geração de respostas, para que os anúncios não influenciem o que o ChatGPT responde.
Pontos principais
- Para buscar candidatos, o orquestrador resume a conversa em embeddings e depois chama ferramentas para filtrar elegibilidade, avaliar relevância e engajamento previsto, e indicar candidatos ao leilão.
- O leilão decide qual anúncio é exibido e o preço; o orquestrador não define nenhum dos dois.
- Os anúncios aparecem abaixo da resposta, marcados como patrocinados, com uma introdução neutra gerada pelo modelo.
- Se o anúncio chega depois que a resposta já foi gerada, ele não aparece naquele turno.
- Com a personalização ativada pelo usuário, o orquestrador considera informações não sensíveis de conversas anteriores.
- A OpenAI diz que os anúncios do ChatGPT chegaram a US$ 1 bilhão de receita anualizada em menos de 200 dias após o lançamento, com mais de 100 mil anunciantes.
- A empresa diz que pretende testar formatos mais dinâmicos, como permitir que o usuário converse diretamente com empresas pelo anúncio.
A OpenAI descreve que a intenção comercial de uma conversa se forma ao longo de vários turnos, então o sistema mantém uma sessão que lembra o contexto entre mensagens e entre conversas. Um LLM pós-treinado pela empresa, o orquestrador, conduz o fluxo de busca e seleção.
O serviço de anúncios roda separado da geração das respostas, com modelos e código próprios, para que os anúncios não influenciem o texto do ChatGPT. Se ele ficar indisponível ou lento, a resposta segue normalmente, e não exibir anúncio é o desfecho comum quando nenhum é claramente útil para usuário e anunciante.
