Modelos de IA no Hugging Face falham ao bloquear criação de deepfakes

Uma investigação conduzida pela organização AI Forensics revelou vulnerabilidades graves em modelos de inteligência artificial de código aberto hospedados no Hugging Face. O estudo demonstrou que sete dos nove modelos de edição de imagem mais populares da plataforma permitem a criação de deepfakes explícitos a partir de comandos de texto simples. A facilidade com que imagens de mulheres vestidas foram alteradas para conteúdo topless levanta preocupações urgentes sobre a eficácia das salvaguardas atuais contra o uso indevido de tecnologias generativas. A descoberta destaca uma lacuna significativa na moderação de conteúdo dessas ferramentas, evidenciando como a acessibilidade de modelos de IA pode ser explorada para a produção de material não consensual. Especialistas alertam que a falta de filtros robustos em sistemas de código aberto facilita a disseminação de abusos digitais, exigindo uma revisão imediata nas políticas de segurança dos desenvolvedores.