Mãe processa OpenAI após suicídio de filha que utilizou ChatGPT
Ação judicial alega que o chatbot da OpenAI falhou em oferecer suporte adequado ou incentivar ajuda profissional a uma jovem em crise.
Pontos principais
- O processo foi aberto por uma mãe canadense após o suicídio de sua filha, Alice Carrier.
- A autora da ação afirma que a jovem e sua namorada interagiram com o ChatGPT durante seus momentos finais.
- A petição alega que a ferramenta de IA não forneceu assistência necessária nem direcionou as usuárias para ajuda profissional.
- O caso amplia o debate sobre a responsabilidade ética e os protocolos de segurança de modelos de linguagem com usuários vulneráveis.
Uma mãe canadense iniciou uma ação judicial contra a OpenAI, responsabilizando a empresa pelo desfecho trágico de sua filha, Alice Carrier. Segundo o processo, a jovem e sua namorada utilizaram o ChatGPT em momentos de crise, mas a ferramenta de inteligência artificial teria falhado em oferecer suporte adequado ou incentivar a busca por auxílio profissional. A família busca agora responsabilizar a companhia pelo papel da tecnologia em situações de vulnerabilidade extrema. O caso coloca em evidência a crescente pressão sobre as empresas de tecnologia para a implementação de protocolos de segurança mais rigorosos em seus modelos de linguagem. A medida levanta preocupações críticas sobre como sistemas de IA devem reagir ao interagir com usuários que demonstram sinais de instabilidade emocional, questionando os limites da responsabilidade ética das desenvolvedoras diante de interações que podem influenciar decisões fatais.
Comentários
Carregando comentários...