Sete de nove editores de imagem do Hugging Face despem mulheres em teste

As políticas do Hugging Face proíbem conteúdo sexual não consensual, mas a plataforma depende em grande medida de cada desenvolvedor para implementar salvaguardas — e a auditoria mostra que quase nenhum implementa. Após contato da imprensa, a empresa removeu algumas páginas, mas não respondeu a perguntas detalhadas sobre uma remediação mais ampla.

Os prompts coletados mostram abusos que vão além do simples despir, incluindo pedidos para retratar sêmen em mulheres, inserir brinquedos sexuais e retratar atos sexuais; em alguns casos, para remover o hijab de mulheres muçulmanas. A AI Forensics pede filtragem de prompts na entrada e varredura automatizada de outputs em todos os Spaces de imagem e vídeo.