Anthropic acusa Alibaba do maior ataque de destilação já visto contra o Claude

Destilação é a técnica de extrair as capacidades de um modelo de IA consultando-o repetidamente para treinar um modelo concorrente. Segundo a Anthropic, operadores ligados ao laboratório Qwen, da Alibaba, usaram a abordagem em escala industrial contra o Claude, visando acelerar a capacidade da China de alcançar as capacidades avançadas do Mythos Preview da Anthropic.

A empresa alertou que a destilação adversarial permite a laboratórios chineses replicar IA de fronteira por uma fração do custo de treinamento, e que modelos construídos dessa forma muitas vezes não têm salvaguardas de segurança. A carta foi enviada antes de uma audiência sobre IA já agendada no Comitê Bancário do Senado dos EUA.