Chatbots de IA removem símbolos religiosos de imagens em testes
Ferramentas como ChatGPT, Grok e Gemini removeram itens como hijabs e turbantes de imagens após solicitações, levantando preocupações éticas.
Pontos principais
- Testes do The Guardian mostraram que ChatGPT e Grok removeram hijabs de mulheres em imagens geradas.
- O Gemini atendeu à solicitação após o pedido ser reformulado para uma aparência mais ocidental.
- O Claude recusou a edição alegando não possuir recursos para alterar símbolos religiosos em fotos.
- A remoção de símbolos como turbantes sikhs e hábitos católicos também foi registrada nos testes.
- Especialistas alertam que a prática pode ser usada para desumanizar ou sexualizar minorias religiosas.
Testes realizados pelo jornal The Guardian revelaram que modelos de inteligência artificial, incluindo ChatGPT, Grok e Gemini, são capazes de remover símbolos religiosos de imagens quando solicitados. Entre os itens removidos estão hijabs, turbantes sikhs e hábitos católicos, expondo uma falha significativa na moderação e na preservação da identidade religiosa por parte dessas ferramentas. Enquanto o Claude afirmou não possuir recursos para realizar tais edições, outros modelos atenderam aos comandos diretamente ou após sugestões de alteração estética.
O uso dessas tecnologias para modificar representações religiosas gerou debates sobre o impacto da IA na disseminação de preconceitos. O caso ganha relevância após episódios em que imagens modificadas foram utilizadas para promover discursos de ódio, levantando preocupações sobre como a IA generativa pode ser instrumentalizada para desumanizar grupos específicos. O episódio reforça a necessidade de diretrizes éticas mais rigorosas no desenvolvimento e na implementação de modelos de linguagem e geração de imagens.
Cobertura da mídia
Comentários
Carregando comentários...