Apple endurece regras contra apps de IA que geram nudez e fraudam revisão
A Apple atualizou as diretrizes da App Store para cobrir explicitamente imagens íntimas não consentidas geradas por IA e para prever a remoção de apps que mudam de função depois da aprovação.
Pontos principais
- A Apple diz que a seção 1.2 passa a incluir imagens íntimas não consentidas, inclusive geradas com ferramentas de IA, como conteúdo que os apps devem prevenir e remover proativamente.
- Apps que não adotarem salvaguardas adequadas, ou não corrigirem violações após notificação, podem violar o Código de Conduta do Desenvolvedor e sair da App Store.
- Pela seção 2.5.19, apps que mudam de função após a aprovação, como ao incluir recursos que não estavam na versão submetida à revisão, podem ser removidos da App Store e do Apple Developer Program.
- Pela seção 5, apps com conteúdo de tráfico humano ou exploração infantil, incluindo material de abuso sexual infantil, serão removidos e bloqueados também em distribuição alternativa.
- A Apple lembra que apps com conteúdo gerado por usuários já devem filtrar material ofensivo, oferecer forma de denúncia e permitir o bloqueio de contas abusivas.
- No último ano, a Apple diz ter impedido mais de 150 mil apps com problemas de segurança de chegarem à loja e encerrado mais de 193 mil contas de desenvolvedores por fraude e abuso.
A Apple publicou em 16 de outubro uma atualização das App Review Guidelines da App Store, a loja que atende usuários em todo o mundo. A empresa lembra que a proibição de pornografia já cobria apps de nudificação, que criam imagens sexualmente explícitas de pessoas reais sem consentimento, e a nova versão da regra passa a citar expressamente as imagens geradas por IA.
As mudanças miram também o que a Apple chama de bait-and-switch: apps que escondem funções reais durante a revisão e só as ativam depois da aprovação. Segundo a empresa, em alguns casos esse conteúdo vem de operações coordenadas de fraude, e a Apple diz que vai continuar ajustando suas ferramentas para detectá-lo mais rápido.
Tópicos relacionados
Cobertura da mídia
Comentários
Carregando comentários...