Modelos de IA no Hugging Face facilitam criação de deepfakes sexuais
Investigação aponta que sete dos nove principais modelos de edição de imagem da plataforma permitem gerar nudes com comandos simples.
Pontos principais
- Pesquisa da AI Forensics revelou que 73% dos pedidos monitorados na plataforma tinham conotação sexual.
- Sete dos nove modelos de IA mais populares testados transformaram imagens de mulheres vestidas em conteúdo topless.
- A manipulação foi executada com comandos de texto simples de apenas seis palavras.
- Cerca de 6,7% dos comandos identificados pela análise tinham menores de idade como alvos.
- Especialistas apontam que a segurança depende exclusivamente do código de cada modelo, sem filtros globais da plataforma.
Uma investigação conduzida pela AI Forensics e reportada pela Wired revelou falhas críticas de segurança na plataforma Hugging Face, que hospeda quase 3 milhões de modelos de inteligência artificial. O estudo demonstrou que sete dos nove modelos de edição de imagem mais populares disponíveis no repositório permitem a criação de deepfakes de conteúdo sexual não consensual a partir de comandos de texto simples. A facilidade de manipulação levanta preocupações sobre a ausência de mecanismos de moderação robustos em ferramentas de código aberto.
O relatório detalha que a maioria dos pedidos monitorados na plataforma apresentava conotação sexual, sendo que 6,7% dos casos identificados envolviam a criação de imagens de menores de idade. Segundo o pesquisador Paul Bouchaud, a proteção contra o uso indevido dessas tecnologias depende atualmente apenas do código individual de cada modelo, sem uma camada de segurança centralizada. Diante das descobertas, organizações como a AI Forensics pressionam a empresa franco-americana por políticas de moderação mais rigorosas para conter a disseminação de conteúdos prejudiciais.
Comentários
Carregando comentários...