Anthropic detalha marca d'água SynthID-Text para identificar textos do Claude
A tecnologia, desenvolvida pelo Google DeepMind, insere padrões estatísticos invisíveis em conteúdos gerados por IA para cumprir regulamentações europeias.
Pontos principais
- A marca d'água utiliza a tecnologia SynthID-Text para criar padrões probabilísticos na escolha de palavras pelo modelo.
- O recurso é aplicado automaticamente em modelos lançados desde agosto e não pode ser desativado pelos usuários.
- A implementação visa atender às exigências de transparência do AI Act, a lei de inteligência artificial da União Europeia.
- A Anthropic afirma que a marcação não altera a qualidade, legibilidade ou custo de processamento do Claude.
- A eficácia da detecção é maior em textos longos, apresentando limitações em conteúdos curtos, códigos ou correções gramaticais.
- Imagens processadas pela plataforma receberão credenciais criptografadas seguindo o padrão C2PA.
- A empresa planeja disponibilizar uma API de detecção para permitir que terceiros verifiquem a origem de conteúdos.
- Usuários expressaram preocupações sobre privacidade e ética, com relatos de insatisfação entre assinantes do serviço.
A Anthropic oficializou o funcionamento do sistema de marca d'água invisível para textos gerados pelo chatbot Claude. A tecnologia, batizada de SynthID-Text e desenvolvida pelo laboratório Google DeepMind, atua por meio de cálculos probabilísticos que definem padrões estatísticos na seleção de palavras pelo modelo. Segundo a empresa, o processo ocorre sem comprometer a fluidez do texto ou gerar custos adicionais de processamento, sendo uma medida de conformidade com o AI Act, a legislação de inteligência artificial da União Europeia que exige maior transparência sobre a origem de conteúdos digitais.
Embora a implementação seja global e obrigatória, o sistema possui limitações técnicas, sendo mais preciso em textos extensos e menos eficaz em códigos de programação, fórmulas matemáticas ou reescritas humanas completas. Além da marcação textual, a Anthropic adotou o padrão C2PA para inserir metadados criptografados em imagens geradas pela plataforma. A novidade gerou reações mistas entre a base de usuários, com parte dos assinantes manifestando preocupações sobre privacidade e a possibilidade de identificação unilateral de seus trabalhos, destacando os desafios de governança enfrentados por empresas que operam modelos de linguagem em larga escala.
Tópicos relacionados
Cobertura da mídia
Como funciona a marca d’água que o Claude vai deixar nos textos criados por IA
Times Brasil • 17 ago, 19:43
Anthropic Revela Como Funciona Marca d’água nos Textos Processados pelo Claude
Forbes Brasil Tech • 17 ago, 15:30
Assinantes do Claude prometem cancelar IA por causa de marca d'água
TecMundo • 17 ago, 12:00
Comentários
Carregando comentários...