Google suspende recurso de I.A. no Earth após criação de imagens falsas
Ferramenta foi desativada temporariamente após usuários gerarem montagens de desastres e atentados sobre mapas reais.
Pontos principais
- O recurso permitia sobrepor imagens geradas por I.A. a mapas e registros de satélite reais.
- Usuários criaram montagens falsas simulando destruição em cidades como Manhattan, Moscou e no Irã.
- A empresa interrompeu a funcionalidade para reforçar medidas de segurança contra a desinformação.
- Especialistas apontam que a tecnologia SynthID, usada para marca d'água, pode ser contornada facilmente.
O Google suspendeu temporariamente uma nova funcionalidade de inteligência artificial no Google Earth após a ferramenta ser utilizada para a criação de imagens falsas de destruição. O recurso permitia que usuários gerassem conteúdos sintéticos e os sobrepusessem a mapas e imagens de satélite reais, resultando em montagens realistas de atentados e desastres em locais como Manhattan, Moscou e no Irã. A empresa informou que a interrupção visa implementar protocolos de segurança mais robustos para mitigar riscos de desinformação. O caso reacende o debate sobre a integridade de registros visuais, uma vez que pesquisadores alertam que sistemas de marca d'água, como o SynthID, ainda podem ser contornados. A facilidade de manipulação de dados geográficos levanta preocupações sobre a confiança em ferramentas utilizadas por autoridades e jornalistas para monitorar eventos globais.
Comentários
Carregando comentários...