Google suspende ferramenta de IA no Earth após risco de imagens falsas
O Google retirou do ar uma nova função de IA no Google Earth menos de 24 horas após o lançamento, devido a preocupações com a criação de deepfakes.
Pontos principais
- A ferramenta permitia que usuários gerassem imagens sintéticas e as sobrepusessem a mapas reais.
- A suspensão ocorreu após críticas sobre o potencial uso da tecnologia para disseminar desinformação visual.
- Especialistas alertaram que a IA poderia comprometer a veracidade de imagens de satélite usadas em zonas de conflito.
- O Google informou que trabalha na implementação de proteções mais rigorosas antes de um possível retorno do recurso.
O Google suspendeu, menos de 24 horas após o lançamento, uma nova funcionalidade de inteligência artificial integrada ao Google Earth. A ferramenta permitia que usuários gerassem imagens sintéticas e as sobrepusessem a mapas reais, mas foi rapidamente retirada do ar após uma onda de críticas de especialistas em segurança e usuários. O principal receio apontado foi o potencial uso da tecnologia para a criação de deepfakes geográficos, o que poderia facilitar a disseminação de desinformação visual em larga escala.
A decisão destaca os riscos crescentes associados à IA generativa, especialmente no que diz respeito à integridade de dados visuais utilizados para verificar fatos e danos em zonas de conflito. Segundo especialistas, a facilidade em manipular evidências geográficas pode erodir a confiança pública em imagens de satélite como fonte de verdade factual. Em resposta, o Google afirmou que está revisando o sistema para implementar "proteções mais rigorosas" e evitar abusos, embora não tenha detalhado um cronograma para o retorno da funcionalidade.
Comentários
Carregando comentários...