Hugging Face é acusada de hospedar IAs para deepfakes sexuais
Estudo aponta que modelos na plataforma facilitam a criação de nudez não consentida, gerando críticas sobre as políticas de segurança da empresa.
Pontos principais
- Pesquisa da AI Forensics indica que sete dos nove principais modelos de edição de imagem na plataforma permitem gerar nudez sem consentimento.
- O estudo afirma que usuários conseguem resultados explícitos sem a necessidade de burlar mecanismos de segurança existentes.
- Testes com um modelo falso demonstraram que 73% das solicitações recebidas pelos sistemas eram de natureza sexual.
- A Hugging Face contesta a metodologia do estudo, mas admite falhas na implementação de salvaguardas por parte dos desenvolvedores.
A plataforma Hugging Face, um dos principais repositórios de modelos de inteligência artificial do mundo, enfrenta críticas após um estudo da organização AI Forensics revelar que suas ferramentas facilitam a criação de deepfakes sexuais. A análise aponta que a maioria dos modelos de edição de imagem disponíveis no site permite a geração de nudez não consentida, inclusive envolvendo menores, sem que o usuário precise contornar proteções de segurança. Em testes práticos, a grande maioria das solicitações enviadas aos modelos apresentou conteúdo de natureza sexual. Em resposta, a Hugging Face contestou a metodologia utilizada pela AI Forensics, argumentando que os prompts aplicados não condizem com o uso real das ferramentas. Contudo, a empresa reconheceu a existência de lacunas na implementação de medidas de segurança pelos desenvolvedores independentes e afirmou estar trabalhando para mitigar esses riscos e aprimorar a moderação de conteúdo em sua infraestrutura.
Comentários
Carregando comentários...