Anthropic detalha marca d'água SynthID para identificar textos do Claude
A tecnologia, desenvolvida pelo Google DeepMind, insere padrões estatísticos invisíveis para rastrear conteúdos gerados pelo chatbot da Anthropic.
Pontos principais
- O sistema SynthID-Text utiliza cálculos probabilísticos na escolha de palavras sem afetar a qualidade do texto.
- A implementação visa atender às exigências de transparência do AI Act, a lei de inteligência artificial da União Europeia.
- A marca d'água não rastreia usuários e pode ser removida caso o texto passe por uma reescrita humana completa.
- A Anthropic planeja disponibilizar uma API de detecção para que terceiros possam verificar a origem de conteúdos.
- A eficácia da detecção é maior em textos longos, apresentando limitações em conteúdos curtos ou revisados.
A Anthropic oficializou detalhes sobre a integração da tecnologia SynthID-Text, desenvolvida pelo Google DeepMind, em seu chatbot Claude. O sistema funciona através da inserção de padrões estatísticos invisíveis durante a geração de texto, permitindo identificar a origem artificial do conteúdo sem comprometer a legibilidade, o desempenho ou o custo de processamento. A iniciativa é uma resposta direta às regulamentações de transparência impostas pelo AI Act da União Europeia, que exige maior clareza sobre materiais produzidos por modelos de linguagem.
Embora represente um avanço na identificação de conteúdos gerados por IA, a empresa ressalta que o recurso não é infalível. A marca d'água pode ser contornada por meio de reescritas humanas e possui menor precisão em textos curtos. Para ampliar o alcance da ferramenta, a Anthropic planeja lançar uma API de detecção, permitindo que desenvolvedores e plataformas verifiquem a procedência de textos de forma automatizada.
Tópicos relacionados
Comentários
Carregando comentários...