Ferramenta do Google Earth gera imagens sensíveis com IA
Funcionalidade Nano Banana 2 do Google Earth criou imagens de refugiados e usinas nucleares, levantando debates sobre segurança e ética em IA.
Pontos principais
- O pesquisador Henk van Ess identificou que a ferramenta Nano Banana 2 gera imagens artificiais de locais sensíveis.
- Conteúdos gerados incluem representações de refugiados na fronteira EUA-México e de instalações nucleares no Irã.
- O Google confirmou que as imagens produzidas pela funcionalidade possuem a marca d'água digital SynthID.
- O caso levanta questionamentos sobre os critérios de moderação e limites éticos da IA generativa em serviços de mapeamento.
A funcionalidade Nano Banana 2, integrada ao Google Earth, tornou-se alvo de críticas após o pesquisador Henk van Ess demonstrar que a ferramenta é capaz de gerar imagens artificiais de locais sensíveis. Entre os exemplos identificados estão representações de refugiados na fronteira entre os Estados Unidos e o México, além de instalações nucleares localizadas no Irã. Em resposta, o Google confirmou que todo o conteúdo visual produzido pela tecnologia contém a marca d'água digital SynthID, desenvolvida para identificar arquivos criados por inteligência artificial. O incidente coloca em evidência os desafios enfrentados por empresas de tecnologia na implementação de salvaguardas éticas em ferramentas de IA generativa. A capacidade de criar representações realistas de áreas críticas levanta preocupações sobre a segurança e o uso responsável de dados em plataformas de mapeamento de acesso público.
Comentários
Carregando comentários...