OpenAI antecipa sistema que promete retenção zero de dados
O Private Safety Processing busca sinais de uso indevido sem que a equipe da OpenAI veja prompts ou respostas — o oposto da política da Anthropic.
Pontos principais
- A OpenAI publicou na quarta-feira o post 'Offering Zero Data Retention for frontier models', antecipando o Private Safety Processing.
- O sistema busca sinais de uso indevido em várias interações relacionadas de uma vez, sem que a equipe veja prompts nem respostas.
- O conteúdo do cliente fica em infraestrutura dele ou em infraestrutura da OpenAI criptografada com chaves sob controle do cliente.
- Uma semana antes, a Anthropic passou a exigir retenção de 30 dias para clientes corporativos nos modelos Fable 5 e Mythos 5.
- O sistema está em teste com clientes corporativos e de API selecionados e não afeta os planos de consumidor do ChatGPT.
- Disponibilização mais ampla e white paper técnico estão previstos para setembro.
- Uma nota de rodapé ressalva que imagens sinalizadas como possível material de abuso sexual infantil continuam retidas para revisão manual.
Os dois maiores laboratórios de IA chegaram à mesma leitura técnica e a conclusões opostas. Ambos afirmam que o abuso se espalha por múltiplas requisições, e não em um único prompt. A Anthropic concluiu que precisa guardar logs por 30 dias para enxergar o padrão — e admitiu que a política seria impopular. A OpenAI diz que consegue enxergar o mesmo padrão recebendo apenas sinais de segurança estritamente definidos, sem guardar o conteúdo.
O post inclui uma alfinetada não nominal na rival: 'Algumas implantações recentes de modelos de fronteira exigiram que os clientes permitissem que seu provedor de IA retivesse conteúdo sensível para monitoramento de segurança.' A alegação central da OpenAI, porém, segue não verificável até a publicação do white paper prometido para setembro.
Comentários
Carregando comentários...