Apps de nudez com IA driblam controle parental na Apple e Google
Em testes nos Estados Unidos, o Tech Transparency Project encontrou 135 apps de nudez com IA acessíveis a um menino de 13 anos nas lojas da Apple e do Google, inclusive em contas com controle parental ativo.
Pontos principais
- O Tech Transparency Project criou quatro contas de teste de um menino de 13 anos nos Estados Unidos: duas na App Store e duas na Google Play, sendo uma de cada par com controles parentais ativados.
- Os testes encontraram 135 apps de troca de rostos e nudez acessíveis, com 5,5 bilhões de downloads e US$ 3,9 bilhões em receita, segundo a AppMagic.
- Nas contas padrão, o acesso chegou a 61 apps na App Store e 47 na Google Play; nas contas supervisionadas, a 24 e 51, aprovados pela conta do pai por estarem classificados para 13 anos.
- Na App Store, um aviso de conteúdo para maiores de 17 anos era dispensado com um toque em “OK”, e o download seguia.
- As classificações etárias são autodeclaradas pelos desenvolvedores, e apps como Alter Me, com conteúdo sexual, aparecem com classificação 4+.
- Compras com cartão-presente dentro de apps já baixados não geraram alerta aos pais; a Apple diz que seria comportamento inesperado e investiga, e o Google não respondeu.
- Até 28 de setembro, a Apple tinha retirado 25 desses apps e o Google, seis, mas os retirados continuaram funcionando nos aparelhos de teste.
- Anúncios de apps de nudez chegaram às contas de teste: 13 na Apple e 5 no Google.
- Três dias após o contato do TTP, a Apple incluiu nas diretrizes de revisão a proibição de “imagens íntimas não consensuais”, inclusive geradas por IA.
- O Google, por meio do porta-voz Dan Jackson, diz não permitir apps com conteúdo sexual ou que permitam despir pessoas em imagens.
Um estudo do Tech Transparency Project, feito nos Estados Unidos, encontrou aplicativos de nudez com IA acessíveis a menores de idade nas lojas da Apple e do Google. Com quatro contas de teste de um menino de 13 anos, o TTP chegou a 135 apps, que somam 5,5 bilhões de downloads e US$ 3,9 bilhões em receita, segundo a AppMagic. Os controles parentais não barraram o acesso, e o TTP aponta que as lojas dependem da autodeclaração dos desenvolvedores para definir a faixa etária.
Na conta padrão da Apple, um aviso para maiores de 17 anos era dispensado com um toque em “OK”. Compras feitas com cartão-presente dentro de apps já baixados não geraram alerta aos pais, nem na Apple nem no Google. A Apple diz que isso seria um comportamento inesperado e está investigando; o Google não respondeu à pergunta.
A Apple afirma que proíbe apps de nudez e que removeu 25 deles até 28 de setembro, contra seis no Google. Os apps retirados continuaram funcionando nos aparelhos de teste. Três dias após o contato do TTP, a Apple incluiu nas diretrizes de revisão a proibição de imagens íntimas não consensuais, inclusive geradas por IA. O TTP diz que a empresa não esclareceu se imagens de mulheres de biquíni ou lingerie geradas sem consentimento violam essa regra.