Google suspende ferramenta de IA no Google Earth após uso indevido
Google desativou recurso de geração de imagens por IA após usuários criarem representações falsas de conflitos e tragédias globais.
Pontos principais
- A ferramenta Nano Banana 2 foi suspensa menos de 24 horas após o lançamento oficial.
- Pesquisadores demonstraram que a IA permitia gerar imagens falsas de ataques em zonas de conflito, como Gaza.
- O Google recuou da implementação após críticas sobre a fragilidade das marcas d'água e do sistema SynthID.
- A empresa confirmou que o recurso permanecerá offline para a criação de proteções mais robustas contra manipulações.
O Google suspendeu a nova funcionalidade de geração de imagens por IA integrada ao Google Earth, denominada Nano Banana 2, menos de um dia após sua estreia. A decisão ocorreu após a rápida disseminação de imagens falsas que simulavam tragédias e cenários de conflitos sensíveis, como ataques em Gaza, evidenciando falhas críticas nos filtros de segurança da plataforma. Embora o Google tenha inicialmente defendido a eficácia de suas marcas d'água e do sistema SynthID, especialistas demonstraram que essas proteções eram facilmente contornáveis por ferramentas de edição comuns.
O episódio destaca os desafios enfrentados pelas big techs ao implementar modelos de IA generativa em serviços de mapeamento e visualização pública. A empresa afirmou que o recurso foi retirado do ar para que a equipe de engenharia possa implementar salvaguardas mais rigorosas, visando impedir o uso indevido da tecnologia para a criação de desinformação visual.
Comentários
Carregando comentários...