San Francisco notifica Apple e Google para remover apps de deepfake
Procuradoria exige a exclusão de 13 aplicativos que usam IA para criar imagens de nudez não consensual nas lojas digitais das empresas.
Pontos principais
- O procurador de San Francisco, David Chiu, enviou notificações formais exigindo a remoção imediata de 13 aplicativos de 'nudify'.
- As ferramentas utilizam inteligência artificial generativa para criar imagens sexualizadas sem o consentimento das vítimas.
- A prefeitura acusa as gigantes de tecnologia de lucrarem com as taxas cobradas sobre esses aplicativos antes de agirem.
- O Google confirmou que já removeu os softwares citados, enquanto a Apple ainda não se manifestou oficialmente sobre o caso.
- A ação fundamenta-se em leis da Califórnia que proíbem a disseminação de conteúdo sexualmente explícito gerado sem autorização.
A Procuradoria de San Francisco notificou a Apple e o Google com o objetivo de forçar a remoção de 13 aplicativos disponíveis em suas lojas digitais que utilizam inteligência artificial para criar imagens de nudez não consensual. Segundo o procurador David Chiu, as plataformas possuem conhecimento prévio da existência desses softwares, que facilitam a produção de deepfakes destinados ao constrangimento e à extorsão de indivíduos. A notificação exige uma ação imediata das empresas para interromper a distribuição dessas ferramentas e cessar o lucro obtido através das taxas de transação desses aplicativos.
Em resposta à demanda, o Google afirmou que já excluiu os aplicativos mencionados de sua plataforma por violação de suas políticas de conteúdo. A Apple, até o momento, não emitiu um posicionamento oficial sobre a notificação. O caso reflete a crescente pressão regulatória sobre as empresas de tecnologia para que reforcem a moderação de ferramentas de IA generativa, que têm sido utilizadas para contornar legislações estaduais da Califórnia contra a disseminação de conteúdo sexual explícito não autorizado. O movimento em San Francisco acompanha uma tendência global de maior rigor contra esse tipo de software, com iniciativas similares sendo discutidas inclusive na União Europeia.
Comentários
Carregando comentários...