Sistema de detecção de IA do Instagram falha ao rotular fotos reais
Ferramenta de identificação da Meta rotula erroneamente fotos reais como IA, enquanto falha em sinalizar conteúdos gerados sinteticamente.
Pontos principais
- Usuários relatam que edições simples, como remoção de fundo, ativam o aviso de IA em fotos reais.
- Imagens criadas integralmente por modelos generativos permanecem sem identificação na rede social.
- A Meta não divulga os critérios técnicos utilizados para o funcionamento do detector.
- Testes indicam que o rótulo é aplicado com precisão apenas em conteúdos gerados por ferramentas da própria empresa.
O sistema de rotulagem de inteligência artificial do Instagram tem enfrentado críticas devido a falhas recorrentes na identificação de conteúdos sintéticos. Usuários relatam que fotografias reais, submetidas a edições básicas ou ferramentas de auxílio, como a remoção de fundo do Canva, são incorretamente marcadas como geradas por IA. Em contrapartida, imagens criadas inteiramente por modelos generativos frequentemente circulam na plataforma sem qualquer sinalização, levantando dúvidas sobre a eficácia da ferramenta. A Meta, proprietária da rede social, mantém sigilo sobre os parâmetros técnicos utilizados para detectar essas mídias. Testes independentes sugerem que o algoritmo apresenta maior precisão apenas quando o conteúdo é produzido por ferramentas da própria companhia, evidenciando uma inconsistência que prejudica a transparência prometida pela plataforma no combate à desinformação visual.
Comentários
Carregando comentários...