Califórnia propõe restringir uso de chatbots de IA na terapia

Projeto de lei visa proibir que empresas comercializem chatbots como terapeutas e exige supervisão humana em decisões clínicas de saúde mental.

11/08 às 13:18

Pontos principais

O projeto de lei SB 903 proíbe empresas de anunciar chatbots como substitutos de terapia ou terapeutas.
Decisões terapêuticas feitas por IA precisarão de revisão e aprovação de um profissional de saúde licenciado.
O uso de IA para triagem ou registro de sessões exigirá consentimento explícito do paciente.
Estudo de 2025 indica que um em cada oito jovens adultos recorre a chatbots para cuidados de saúde mental.
A OpenAI relatou que cerca de 1,2 milhão de usuários por semana enviam mensagens ao ChatGPT com sinais de intenção suicida.
Críticos do projeto argumentam que a regulação pode dificultar o acesso a ferramentas de triagem em meio à escassez de profissionais.
A American Psychological Association aponta que 77% dos psicólogos já atenderam pacientes que utilizaram IA para suporte emocional.

Legisladores da Califórnia avançam com o projeto de lei SB 903, que busca estabelecer limites rigorosos para a aplicação de inteligência artificial no setor de saúde mental. A medida surge em um cenário de crescente dependência tecnológica, onde a dificuldade de acesso a consultas presenciais tem levado milhares de pessoas a buscar suporte em chatbots. O texto legal proíbe que sistemas de IA realizem diagnósticos ou tomem decisões terapêuticas de forma autônoma, exigindo a supervisão obrigatória de profissionais licenciados para garantir a segurança dos pacientes.

O debate ganha urgência diante de dados que revelam o uso massivo dessas ferramentas por populações vulneráveis. Relatórios recentes apontam que milhões de interações em plataformas como o ChatGPT contêm indicadores de risco de suicídio, levantando preocupações sobre a responsabilidade das empresas de tecnologia. Enquanto defensores da lei enfatizam a necessidade de proteger os pacientes contra conselhos não regulamentados, setores da indústria alertam que restrições excessivas podem criar gargalos adicionais em um sistema de saúde já sobrecarregado.

Cobertura da mídia