Pesquisa aponta falhas de segurança em IAs de Google e OpenAI
Modelos de IA de ponta apresentam vulnerabilidades que permitem a geração de conteúdo sexual explícito, segundo estudo da White Circle.
Pontos principais
- Modelos como DALL·E 3 e Google Nano Banana 2 falharam em 13% dos testes de segurança.
- Pesquisadores utilizaram o método RISE para identificar brechas nos filtros de proteção.
- Versões mais recentes das ferramentas mostraram maior vulnerabilidade que as anteriores.
- Internet Watch Foundation registrou aumento de 40% em imagens sintéticas de abuso infantil em 2026.
Pesquisadores da organização White Circle identificaram falhas críticas de segurança nos modelos de inteligência artificial da OpenAI e do Google. Utilizando o método de red-teaming RISE, o estudo revelou que ferramentas como o DALL·E 3 e o Google Nano Banana 2 permitem a geração de conteúdo sexual explícito e nudes sem consentimento em cerca de 13% das tentativas. Surpreendentemente, as versões mais recentes dos sistemas apresentaram vulnerabilidades superiores às de modelos anteriores.
O cenário levanta preocupações sobre a segurança digital, especialmente diante do aumento de 40% nas imagens sintéticas de abuso sexual infantil registradas pela Internet Watch Foundation no primeiro semestre de 2026. Especialistas defendem a implementação de auditorias independentes e testes automatizados contínuos para reforçar as proteções. A colaboração entre empresas de tecnologia e entidades especializadas é apontada como essencial para mitigar os riscos de uso indevido dessas tecnologias.