Desenvolvedores criam ferramentas para remover marca d'água do Claude

A Anthropic iniciou a implementação de marcas d'água invisíveis em textos gerados pelo chatbot Claude, utilizando a tecnologia SynthID do Google DeepMind. O mecanismo funciona através da alteração da aleatoriedade na escolha de palavras pelo modelo, criando um padrão estatístico que permite à empresa identificar conteúdos gerados por sua IA. A iniciativa foi desenhada para cumprir as normas de transparência exigidas pelo AI Act da União Europeia, que busca regulamentar o uso de inteligência artificial no bloco.

Contudo, a eficácia da medida foi rapidamente contestada por desenvolvedores independentes, que disponibilizaram ferramentas no GitHub capazes de remover ou enfraquecer esses padrões. Projetos como o 'watermarks-remover' utilizam técnicas de reescrita e tradução para burlar a identificação. Especialistas ressaltam que a marca d'água não deve ser considerada uma prova forense definitiva, visto que a precisão da ferramenta é limitada em textos curtos ou editados. O debate coloca em evidência o desafio técnico de garantir a rastreabilidade de conteúdos sintéticos em um cenário onde métodos de contorno evoluem paralelamente às tecnologias de segurança.