Especialistas alertam para riscos de chatbots em saúde mental

O mercado de chatbots voltados para a saúde mental vive uma expansão acelerada, impulsionado pela dificuldade de acesso a profissionais humanos. No entanto, a ausência de um marco regulatório robusto e a falta de padronização técnica geram alertas entre especialistas. Estudos apontam que modelos de IA de uso geral podem falhar em situações de crise, como na identificação de ideação suicida, colocando usuários em risco. Embora plataformas como Talkspace e Headspace implementem camadas de supervisão humana para evitar dependência emocional, a comunidade médica enfatiza que a tecnologia não consegue replicar a complexidade da relação terapêutica, essencial para a interpretação de sinais não verbais e a construção de confiança. Diante desse cenário, estados americanos começam a articular legislações próprias para garantir a segurança dos dados e a eficácia do suporte oferecido por essas ferramentas digitais.