Pesquisa aponta falhas de segurança em modelos de IA do Google e OpenAI
Estudo revela que ferramentas de IA do Google e OpenAI permitem a criação de imagens explícitas ao contornar filtros de segurança existentes.
Pontos principais
- Pesquisadores da White Circle identificaram vulnerabilidades nos modelos Nano Banana 2, DALL-E 3 e GPT-Image-2.
- O método RISE foi utilizado para testar a eficácia dos filtros contra a geração de imagens íntimas não consensuais.
- As taxas de sucesso na evasão dos filtros variaram entre 3% e 13% dependendo do modelo testado.
- O relatório sugere que as empresas priorizaram o desempenho dos modelos em detrimento da segurança dos usuários.
- Especialistas recomendam auditorias independentes e proteções específicas contra a geração de conteúdo sexualizado.
Uma pesquisa conduzida pela empresa White Circle revelou que modelos de inteligência artificial desenvolvidos pelo Google e pela OpenAI apresentam vulnerabilidades críticas. O estudo utilizou uma estratégia de testes denominada RISE para contornar os filtros de segurança, permitindo a geração de imagens íntimas não consensuais e materiais de abuso sexual infantil. Os resultados indicaram taxas de sucesso na evasão de barreiras que variaram de 3% a 13% nos modelos Nano Banana 2, DALL-E 3 e GPT-Image-2.
O relatório aponta que as gigantes de tecnologia podem ter priorizado a capacidade técnica e a performance de seus sistemas em detrimento de protocolos de segurança robustos. Diante das falhas identificadas, os pesquisadores recomendam a adoção de auditorias independentes e a implementação de proteções específicas para impedir a criação de conteúdos sexualizados. Até o momento, as empresas não detalharam medidas corretivas específicas para mitigar essas brechas de segurança em seus modelos de linguagem e imagem.
Cobertura da mídia
Comentários (0)
Seja o primeiro a comentar.