Estudo aponta falhas de segurança no ChatGPT para adolescentes

Uma avaliação realizada pela organização Common Sense Media classificou a versão do ChatGPT para adolescentes como de risco inaceitável. Após submeter a ferramenta a mais de 4 mil testes, os pesquisadores identificaram falhas críticas, incluindo a ausência de notificações aos responsáveis sobre interações envolvendo temas sensíveis, como automutilação e suicídio. Além disso, o estudo apontou que o Modo de Estudo, projetado para auxiliar no aprendizado, pode ser facilmente contornado pelos usuários para obter respostas prontas em vez de suporte pedagógico.

Em resposta, a OpenAI contestou os resultados apresentados, afirmando que a metodologia utilizada não reflete com precisão o funcionamento real dos sistemas de segurança da empresa. A companhia defende que o Modo de Estudo foi desenvolvido como uma ferramenta flexível para apoiar o aprendizado, e não como um bloqueio rígido de conteúdo. O debate destaca os desafios contínuos na implementação de proteções eficazes para menores de idade em plataformas de inteligência artificial generativa.