Uso de chatbots de IA por pacientes com transtornos alimentares gera alerta
Especialistas apontam riscos em orientações de IA para transtornos alimentares, embora a tecnologia também auxilie no encaminhamento para ajuda.
Pontos principais
- Terapeutas relatam aumento de pacientes buscando orientações sobre dieta e exercícios em chatbots de IA.
- Modelos de linguagem podem oferecer conselhos prejudiciais ao ignorar as nuances clínicas de distúrbios alimentares.
- A tecnologia tem sido utilizada para identificar sinais de risco e direcionar usuários a serviços de apoio profissional.
- Especialistas criticam a ausência de supervisão clínica nas interações entre pacientes vulneráveis e sistemas de inteligência artificial.
O uso crescente de chatbots de inteligência artificial por pacientes com transtornos alimentares tem gerado preocupação entre profissionais de saúde mental. Embora essas ferramentas sejam frequentemente consultadas para obter orientações sobre nutrição e rotinas de exercícios, especialistas alertam que os modelos de linguagem podem fornecer conselhos aparentemente sensatos que, na prática, são perigosos para pessoas com distúrbios alimentares. O risco reside na falta de supervisão clínica e na incapacidade da tecnologia de compreender a complexidade psicológica de cada caso.
Por outro lado, a IA também tem demonstrado utilidade ao identificar padrões de comportamento de risco, atuando como um mecanismo de triagem que direciona usuários a linhas de apoio e ajuda especializada. O fenômeno destaca o desafio de equilibrar a acessibilidade da tecnologia com a necessidade de proteção de pacientes vulneráveis, levantando debates sobre a regulação e o treinamento ético de sistemas de IA voltados à saúde.
Comentários
Carregando comentários...