Anthropic detalha marca d'água SynthID-Text para identificar textos do Claude
A tecnologia, desenvolvida pelo Google DeepMind, insere padrões estatísticos invisíveis em conteúdos gerados por IA para cumprir regulamentações europeias.
Pontos principais
- A marca d'água utiliza a tecnologia SynthID-Text para criar padrões probabilísticos na escolha de palavras pelo modelo.
- O recurso é aplicado automaticamente em modelos lançados desde agosto e não pode ser desativado pelos usuários.
- A implementação visa atender às exigências de transparência do AI Act, a lei de inteligência artificial da União Europeia.
- A Anthropic afirma que a marcação não altera a qualidade, legibilidade ou custo de processamento do Claude.
- A eficácia da detecção é maior em textos longos, apresentando limitações em conteúdos curtos, códigos ou correções gramaticais.
- Imagens processadas pela plataforma receberão credenciais criptografadas seguindo o padrão C2PA.
- A empresa planeja disponibilizar uma API de detecção para permitir que terceiros verifiquem a origem de conteúdos.
- Usuários expressaram preocupações sobre privacidade e ética, com relatos de insatisfação entre assinantes do serviço.
A Anthropic oficializou o funcionamento do sistema de marca d'água invisível para textos gerados pelo chatbot Claude. A tecnologia, batizada de SynthID-Text e desenvolvida pelo laboratório Google DeepMind, atua por meio de cálculos probabilísticos que definem padrões estatísticos na seleção de palavras pelo modelo. Segundo a empresa, o processo ocorre sem comprometer a fluidez do texto ou gerar custos adicionais de processamento, sendo uma medida de conformidade com o AI Act, a legislação de inteligência artificial da União Europeia que exige maior transparência sobre a origem de conteúdos digitais.
Embora a implementação seja global e obrigatória, o sistema possui limitações técnicas, sendo mais preciso em textos extensos e menos eficaz em códigos de programação, fórmulas matemáticas ou reescritas humanas completas. Além da marcação textual, a Anthropic adotou o padrão C2PA para inserir metadados criptografados em imagens geradas pela plataforma. A novidade gerou reações mistas entre a base de usuários, com parte dos assinantes manifestando preocupações sobre privacidade e a possibilidade de identificação unilateral de seus trabalhos, destacando os desafios de governança enfrentados por empresas que operam modelos de linguagem em larga escala.
Fonte primária
Tópicos relacionados
Cobertura da mídia
Como funciona a marca d’água que o Claude vai deixar nos textos criados por IA
Times Brasil • 17 ago, 19:43
Anthropic Revela Como Funciona Marca d’água nos Textos Processados pelo Claude
Forbes Brasil Tech • 17 ago, 15:30
Assinantes do Claude prometem cancelar IA por causa de marca d'água
TecMundo • 17 ago, 12:00
Leia também
Anthropic expande marca d'água invisível para modelos do Claude
9 nov, 16:45
Empresas de IA implementam marcas d'água para cumprir lei da UE
16 ago, 16:31
Anthropic implementa marcas d'água no Claude para cumprir lei da UE
13 ago, 18:45
Anthropic implementa marca d'água invisível em conteúdos do Claude
11 ago, 16:45
Anthropic expande marcas d'água para textos e imagens do Claude
11 ago, 09:45
Comentários (0)
Seja o primeiro a comentar.
