Estudo aponta riscos de segurança em ferramentas de IA do Google
Pesquisa da Common Sense Media indica falhas na proteção de menores e na precisão de respostas da inteligência artificial do Google.
Pontos principais
- O estudo analisou 2.600 buscas simuladas por usuários entre 11 e 15 anos.
- A IA falhou em identificar sinais de crise de saúde mental em 42% dos testes.
- Pesquisadores relataram respostas inconsistentes ou inventadas para tarefas escolares.
- O Google contestou a metodologia, afirmando que os testes não refletem o uso real.
- A empresa reforçou que utiliza camadas de proteção, como o SafeSearch, para menores.
Um estudo conduzido pela organização Common Sense Media classificou as ferramentas de inteligência artificial do Google como um risco inaceitável para crianças e adolescentes. A análise, baseada em 2.600 buscas simuladas, revelou que a tecnologia falhou em detectar sinais de crises de saúde mental em 42% dos casos e apresentou inconsistências ou informações falsas em conteúdos educacionais. A relevância do alerta reside na crescente integração dessas ferramentas no cotidiano escolar e pessoal de menores, levantando preocupações sobre a confiabilidade dos dados fornecidos.
Em resposta, o Google contestou a metodologia aplicada, argumentando que as consultas artificiais utilizadas não condizem com o comportamento real dos usuários. A companhia defendeu a eficácia de seus mecanismos de segurança, como o SafeSearch, e afirmou que continua aprimorando suas camadas de proteção para garantir um ambiente digital mais seguro para o público infantojuvenil.
Comentários
Carregando comentários...