Anthropic cria marca d'água invisível para identificar textos de IA

A empresa de inteligência artificial Anthropic anunciou o desenvolvimento de uma marca d'água invisível projetada para identificar textos gerados por seus modelos de linguagem. A tecnologia visa oferecer uma solução técnica para o crescente desafio da integridade acadêmica e científica, permitindo que instituições rastreiem a origem de conteúdos e combatam fraudes ou plágios realizados com auxílio de ferramentas de IA. A medida reflete a pressão por maior transparência no setor tecnológico, especialmente diante da rápida adoção de sistemas de linguagem em diversos campos profissionais. No entanto, especialistas ouvidos pela Rádio USP ressaltam que a eficácia do mecanismo não é absoluta, apontando que usuários mal-intencionados podem encontrar formas de contornar a detecção. O desenvolvimento destaca a complexidade do equilíbrio entre a inovação em IA generativa e a necessidade de estabelecer padrões éticos para o uso dessas ferramentas na sociedade.