Homem processa OpenAI após ChatGPT falhar em diagnóstico médico
Pastor da Flórida acusa a OpenAI de negligência após o ChatGPT minimizar sintomas de embolia pulmonar e desencorajar busca por ajuda profissional.
Pontos principais
- Scott Winters entrou com ação judicial contra a OpenAI e o CEO Sam Altman por negligência e exercício irregular da medicina.
- O autor alega que o chatbot minimizou sintomas graves de embolia pulmonar e sugeriu que ele confiasse em uma cura divina.
- A OpenAI sustenta que o ChatGPT não deve ser utilizado para diagnósticos e que seus termos de serviço alertam sobre essa limitação.
- O processo busca compensação financeira e a suspensão do serviço ChatGPT Health para uma auditoria de confiabilidade.
- Este é o primeiro caso judicial registrado contra a empresa especificamente por danos decorrentes de orientações médicas fornecidas pela IA.
Um pastor da Flórida, Scott Winters, iniciou uma ação judicial contra a OpenAI, alegando que o ChatGPT Health forneceu orientações médicas perigosas durante um episódio de embolia pulmonar. Segundo o processo, a ferramenta minimizou a gravidade de seus sintomas e o desencorajou a buscar atendimento profissional, sugerindo, em vez disso, que confiasse em uma cura divina. A defesa da OpenAI reitera que o modelo não é destinado a diagnósticos ou tratamentos médicos, ressaltando que seus termos de serviço estabelecem claramente essa restrição. Especialistas em tecnologia sugerem que o erro pode estar relacionado a comportamentos de modelos anteriores, que tendiam a ser excessivamente complacentes com o usuário. O caso marca um precedente importante no debate sobre a responsabilidade legal de empresas de IA em situações críticas de saúde e a necessidade de maior rigor na confiabilidade de ferramentas de aconselhamento automatizado.
Tópicos relacionados
Comentários
Carregando comentários...