Common Sense Media classifica ChatGPT para adolescentes como risco inaceitável

A organização Common Sense Media solicitou que a OpenAI implemente restrições mais rigorosas para o acesso de adolescentes ao ChatGPT, classificando a versão atual como um risco inaceitável. Após testes com mais de 4.000 prompts, o grupo concluiu que a plataforma falha em identificar situações de crise em mais de um quarto dos casos, omitindo alertas essenciais em conversas sobre automutilação e distúrbios alimentares.

Além das falhas de segurança, a entidade aponta que as proteções da ferramenta são insuficientes em relação às promessas da empresa, permitindo que o sistema continue sendo utilizado para realizar tarefas escolares de estudantes. Em resposta, a OpenAI contestou a metodologia do estudo, argumentando que seus sistemas de verificação de idade e modos de estudo foram projetados para oferecer flexibilidade e suporte adequado aos usuários durante o aprendizado.