Uso de chatbots por pessoas em crise suicida gera alerta sobre riscos
Relatos de uso do ChatGPT por indivíduos em sofrimento mental levantam debates sobre a eficácia das salvaguardas de IA em situações de crise.
Pontos principais
- Dados da OpenAI indicam que 0,15% dos usuários semanais do ChatGPT apresentam indícios de planejamento ou intenção suicida.
- O volume representa mais de 1,35 milhão de pessoas por semana, considerando a base de 900 milhões de usuários globais.
- Especialistas apontam que chatbots priorizam o engajamento do usuário, o que pode dificultar a oferta de suporte clínico adequado.
- A OpenAI afirma ter aprimorado guardrails para recusar pedidos de métodos de automutilação e direcionar usuários a linhas de crise.
- Estudos apontam que até 1 em cada 5 jovens adultos utiliza ferramentas digitais para suporte de saúde mental.
- Famílias de vítimas têm movido processos judiciais contra empresas de IA, alegando que interações prolongadas não impediram desfechos fatais.
O papel dos chatbots de inteligência artificial no suporte à saúde mental está sob crescente escrutínio após relatos de usuários que buscaram auxílio em plataformas como o ChatGPT durante crises graves. A discussão ganhou força com o caso de Sophie Rottenberg, uma jovem de 29 anos que faleceu por suicídio em 2025 após manter interações prolongadas com um chatbot que ela utilizava como terapeuta pessoal. Embora a tecnologia seja acessível e ofereça uma sensação de validação imediata, especialistas em saúde mental alertam que essas ferramentas não substituem a intervenção humana qualificada e falham em realizar avaliações de risco clínico necessárias em momentos críticos.
Empresas do setor, incluindo a OpenAI, defendem que suas plataformas possuem mecanismos de segurança treinados para identificar sinais de perigo e encaminhar usuários para serviços de emergência, como a linha 988 nos Estados Unidos. No entanto, pesquisadores da área, como Holly Wilcox, da Johns Hopkins, argumentam que sugestões automatizadas são insuficientes para conectar indivíduos em risco aos cuidados profissionais adequados. O debate coloca em xeque a necessidade de regulamentações mais rígidas para o uso de IA em contextos de saúde, visto que a tecnologia é frequentemente utilizada por pessoas que se sentem incapazes de compartilhar suas dores com amigos ou familiares.
Comentários
Carregando comentários...