Anthropic lança marca d'água no Claude, mas eficácia é questionada
Ferramenta visa atender ao AI Act europeu, mas especialistas alertam que o sistema não serve como prova forense definitiva de autoria por IA.
Pontos principais
- A marca d'água altera padrões estatísticos na escolha de palavras pelo modelo.
- A tecnologia atende às exigências de transparência do AI Act da União Europeia.
- Especialistas afirmam que a detecção é falha em textos curtos ou editados.
- Desenvolvedores já criaram métodos para contornar a marcação invisível.
- A verificação depende de chaves privadas da Anthropic, impedindo auditorias externas.
A Anthropic implementou uma marca d'água invisível em textos gerados pelo Claude, utilizando tecnologia baseada no sistema SynthID para identificar conteúdos produzidos por IA. A iniciativa busca alinhar a empresa às exigências de transparência estabelecidas pelo AI Act da União Europeia. Contudo, a ferramenta funciona apenas como um indicador probabilístico, não servindo como prova forense definitiva, uma vez que a eficácia do sistema diminui significativamente em textos curtos, códigos ou conteúdos que passaram por edições humanas.
O lançamento gerou controvérsias técnicas, com desenvolvedores independentes demonstrando que a marcação pode ser contornada por meio de reescrita, tradução ou manipulação de caracteres. Além da fragilidade técnica, a dependência de chaves privadas mantidas pela Anthropic para a verificação impede auditorias independentes, levantando debates sobre a real utilidade dessas medidas para garantir a transparência no ecossistema de modelos de linguagem.
Tópicos relacionados
Comentários
Carregando comentários...