---
title: "Modelos de IA no Hugging Face facilitam criação de deepfakes sexuais"
url: https://dailyjournal.news/news/2026-07-28/modelos-de-ia-no-hugging-face-falham-ao-bloquear-criacao-de-deepfakes
published: 2026-07-28T11:02:05.332617+00:00
updated: 2026-07-28T21:32:28.975+00:00
categories: ["technology"]
source_count: 3
outlet_count: 2
language: pt-BR
publisher: "Daily Journal"
---

# Modelos de IA no Hugging Face facilitam criação de deepfakes sexuais

Investigação aponta que sete dos nove principais modelos de edição de imagem da plataforma permitem gerar nudes com comandos simples.

## Pontos principais

- Pesquisa da AI Forensics revelou que 73% dos pedidos monitorados na plataforma tinham conotação sexual.
- Sete dos nove modelos de IA mais populares testados transformaram imagens de mulheres vestidas em conteúdo topless.
- A manipulação foi executada com comandos de texto simples de apenas seis palavras.
- Cerca de 6,7% dos comandos identificados pela análise tinham menores de idade como alvos.
- Especialistas apontam que a segurança depende exclusivamente do código de cada modelo, sem filtros globais da plataforma.

Uma investigação conduzida pela AI Forensics e reportada pela Wired revelou falhas críticas de segurança na plataforma Hugging Face, que hospeda quase 3 milhões de modelos de inteligência artificial. O estudo demonstrou que sete dos nove modelos de edição de imagem mais populares disponíveis no repositório permitem a criação de deepfakes de conteúdo sexual não consensual a partir de comandos de texto simples. A facilidade de manipulação levanta preocupações sobre a ausência de mecanismos de moderação robustos em ferramentas de código aberto.

O relatório detalha que a maioria dos pedidos monitorados na plataforma apresentava conotação sexual, sendo que 6,7% dos casos identificados envolviam a criação de imagens de menores de idade. Segundo o pesquisador Paul Bouchaud, a proteção contra o uso indevido dessas tecnologias depende atualmente apenas do código individual de cada modelo, sem uma camada de segurança centralizada. Diante das descobertas, organizações como a AI Forensics pressionam a empresa franco-americana por políticas de moderação mais rigorosas para conter a disseminação de conteúdos prejudiciais.

## Fontes

- [Repositório de IA é usado para criar nudes de mulheres e crianças](https://canaltech.com.br/inteligencia-artificial/repositorio-de-ia-e-usado-para-criar-nudes-de-mulheres-e-criancas/) (2026-07-28)
- [AI Forensics: seven out of the nine top AI image models on Hugging Face edited an image of a clothed woman into a topless one using a simple six-word prompt (Matt Burgess/Wired)](https://www.techmeme.com/260728/p10#a260728p10) — Techmeme (2026-07-28)
- [Hugging Face é acusada de hospedar modelos de IA que geram imagens de nudez](https://redir.folha.com.br/redir/online/mercado/rss091/*https://www1.folha.uol.com.br/tec/2026/07/hugging-face-e-acusada-de-hospedar-modelos-de-ia-que-geram-imagens-de-nudez.shtml) — Folha de S.Paulo (2026-07-28)

---

Publicado por Daily Journal. Versão HTML: https://dailyjournal.news/news/2026-07-28/modelos-de-ia-no-hugging-face-falham-ao-bloquear-criacao-de-deepfakes