Anthropic detalha funcionamento de marca d'água em textos do Claude

A Anthropic divulgou informações técnicas sobre o sistema de marca d'água que será implementado em seus futuros modelos de inteligência artificial. O mecanismo foi projetado para identificar a probabilidade de um texto ter sido produzido pelo Claude, servindo como uma ferramenta de transparência sobre o uso de IA. No entanto, a empresa reconhece que a eficácia do método é limitada, apresentando baixa densidade em conteúdos técnicos, como códigos de programação, e em textos de natureza estritamente factual. Além disso, a marca d'água é vulnerável a alterações, podendo ser facilmente removida ou invalidada caso o usuário realize uma reescrita completa do conteúdo gerado. A iniciativa reflete o esforço do setor em estabelecer padrões de identificação para conteúdos sintéticos, embora as limitações técnicas evidenciem os desafios atuais para garantir a rastreabilidade absoluta de textos produzidos por LLMs.