Anthropic diz ter reduzido em 90% a 99% os dados colhidos por destiladores
A Anthropic afirma que novas defesas reduziram em cerca de 90% a 99% os dados que destiladores conseguem colher de seus modelos Claude, e que dezenas de milhares de contas ligadas à prática foram banidas.
Pontos principais
- A Anthropic afirma, com base em evidências iniciais, que as novas defesas reduziram em cerca de 90% a 99% os dados que destiladores conseguem colher.
- Na própria plataforma da Anthropic, os tokens de raciocínio extraídos por destiladores caíram de 10 a 100 vezes após a introdução do classificador.
- A Anthropic baniu dezenas de milhares de contas ligadas à destilação, muitas em menos de duas horas depois do início de uma campanha.
- O pensamento preservado, introduzido com Claude Fable 5.1 e Claude Opus 5.5, impede que contas de API criadas a partir de 31/08/2026 editem o contexto anterior do Claude.
- Com o Claude Sonnet 5.5, as transcrições de raciocínio ficam acessíveis apenas à organização que gerou a requisição.
- Um classificador de duas etapas, com taxa de falsos positivos abaixo de 0,1%, roda em Claude Sonnet 5.5, Claude Opus 5 e 5.5, e Claude Fable 5 e 5.1.
- Desde 24 de setembro, requisições bloqueadas pelas salvaguardas antes da resposta passaram a ser cobradas, nas áreas em que a taxa de falsos positivos é menor que 0,1%, como a destilação.
- Segundo a Anthropic, a Zhipu tentou destilar o Claude Fable 5 no desenvolvimento do GLM-5.3, mas trocou para um Claude mais antigo depois que as salvaguardas cibernéticas degradaram seus ataques.
- Requisições ao Kimi, da Moonshot, foram encaminhadas em segredo ao Claude; uma delas, de um usuário que a Anthropic acredita ser ligado ao Exército de Libertação Popular da China, buscava analisar vigilância por CCTV de um indivíduo.
- Em SWE-bench Verified, um modelo treinado com transcrições de raciocínio resumidas do Claude Opus 4.8 atingiu 71,8%, contra 80,4% com as transcrições completas.
- Os classificadores podem, em menos de 0,1% dos casos, identificar ou bloquear por engano pedidos legítimos.
- A Anthropic ainda não viu uma tentativa altamente sofisticada e persistente de contornar as defesas.
A Anthropic, empresa dos Estados Unidos, anunciou em 12 de outubro novas defesas contra a destilação, que é a cópia das capacidades de um modelo por outro sem autorização, muitas vezes por meio de redes de contas fraudulentas. As medidas atuam em três frentes: controlar para onde o raciocínio pode ir, bloquear e corrigir tentativas de extração e dificultar tentativas repetidas com limites de uso mais rígidos.
A empresa afirma que o combate é um jogo de gato e rato e que não sabe por quanto tempo os ganhos vão durar. Ela também reconhece custos: recusou receita relevante e trilhões de tokens de tráfego pago de destiladores, e parte dos desenvolvedores precisou atualizar suas integrações.
Tópicos relacionados
Cobertura da mídia
@DavidSacks: Anthropic says it has reduced the data harvested from Claude in distillation attacks by around 90–99%. I congratulate them on this achievement.
x.com • 13 out, 00:30
Anthropic says new measures like preserved thinking in Fable 5.1 and Opus 5.5 have reduced data harvesting through distillation attacks by about 90% to 99% (Anthropic)
Techmeme • 13 out, 00:45
@AnthropicAI: Over the last few months, we’ve made significant progress in reducing the effectiveness of distillation attacks against Claude.
x.com • 12 out, 20:58
Comentários
Carregando comentários...