Google suspende ferramenta de IA no Earth após criação de imagens falsas
Google desativou recurso do Nano Banana 2 menos de 24 horas após lançamento devido ao uso da plataforma para disseminar desinformação visual.
Pontos principais
- O recurso permitia modificar cenários reais do Google Earth por meio de comandos de texto.
- Usuários criaram imagens fictícias de conflitos armados, instalações nucleares e campos de refugiados.
- Especialistas alertaram que a credibilidade do Google Earth facilitava a validação de conteúdos fabricados.
- Apesar da inclusão de marcas-d'água do sistema SynthID, a eficácia da medida de segurança foi questionada.
- A empresa suspendeu a ferramenta para implementar mecanismos de proteção mais rigorosos contra o mau uso.
O Google suspendeu, menos de 24 horas após o lançamento, uma nova funcionalidade de inteligência artificial integrada ao Google Earth. O recurso, baseado no modelo Nano Banana 2, permitia que usuários alterassem cenários reais da plataforma por meio de comandos de texto. A decisão ocorreu após a rápida disseminação de imagens falsas retratando conflitos, instalações nucleares e campos de refugiados. A utilização da ferramenta levantou preocupações imediatas entre especialistas, que alertaram para o risco de a credibilidade histórica do Google Earth ser explorada para validar desinformação. Embora a empresa tenha aplicado marcas-d'água do sistema SynthID nas imagens geradas, a medida foi considerada insuficiente por pesquisadores. O Google reconheceu a vulnerabilidade e afirmou que o recurso permanecerá indisponível enquanto a companhia desenvolve mecanismos de segurança mais robustos para evitar abusos futuros na plataforma.
Comentários
Carregando comentários...