Meta exibe anúncios de apps que geram pornografia falsa com IA

A Meta enfrenta novas críticas sobre a eficácia de seus sistemas de moderação após a veiculação de anúncios de aplicativos que utilizam inteligência artificial para gerar pornografia não consensual. O caso mais notório envolve o aplicativo Kromix, que promovia a criação de vídeos falsificados com semelhanças a figuras políticas e permitia a manipulação de fotos reais em contextos de violência sexual. A Apple removeu o software de sua loja oficial após constatar a violação de suas diretrizes de segurança. Além do Kromix, investigações do Tech Transparency Project identificaram anúncios na plataforma da Meta relacionados ao aplicativo MaskAI, que estaria vinculado à promoção de materiais de abuso sexual infantil. O episódio intensifica a pressão regulatória sobre as gigantes de tecnologia, que dependem fortemente de sistemas automatizados para filtrar conteúdos publicitários, levantando questionamentos sobre a segurança de suas plataformas para os usuários.