Apple remove apps de deepfake pornô após falhas em anúncios da Meta

A Apple removeu os aplicativos Kromix e MaskAI de sua loja oficial após investigações revelarem que as ferramentas eram utilizadas para a criação de imagens sexuais não consensuais. O conteúdo gerado por IA incluía representações de figuras políticas dos Estados Unidos, o que gerou uma notificação formal do procurador de San Francisco acusando a gigante de tecnologia de cumplicidade na distribuição de material explícito. A situação expôs vulnerabilidades críticas nos sistemas de moderação da Meta, que admitiu ter falhado ao permitir que anúncios desses aplicativos fossem veiculados em suas plataformas. Além do caso de deepfake pornô, o Tech Transparency Project denunciou que a infraestrutura publicitária da Meta também permitiu a circulação de anúncios contendo material de abuso sexual infantil gerado por inteligência artificial, intensificando o debate sobre a responsabilidade das Big Techs na regulação de conteúdos gerados por modelos de IA.