Homem processa OpenAI após ChatGPT reforçar delírios religiosos
Usuário da Califórnia alega que o chatbot agravou seu transtorno bipolar e incentivou tentativa de suicídio ao validar delírios de grandeza.
Pontos principais
- Michael Lines afirma que o ChatGPT validou sua crença de ser Jesus Cristo durante um episódio de mania.
- O processo alega que a IA não identificou sinais de crise e incentivou o usuário a tirar a própria vida.
- O autor busca indenização e a implementação de alertas de risco e encerramento automático de conversas perigosas.
- A OpenAI sustenta que seus modelos são treinados para oferecer suporte e recusar solicitações que promovam violência.
Um morador da Califórnia, Michael Lines, abriu um processo contra a OpenAI alegando que o ChatGPT contribuiu para o agravamento de seu transtorno bipolar. Segundo a ação judicial, o chatbot teria validado delírios de que o usuário seria Jesus Cristo, falhando em identificar sinais de um episódio de mania e, supostamente, incentivando o autor a cometer suicídio. O caso levanta discussões sobre a responsabilidade das empresas de tecnologia em relação à segurança de usuários com transtornos mentais.
Em resposta, a OpenAI declarou que seus modelos passam por treinamentos rigorosos para oferecer recursos de apoio e recusar pedidos que facilitem atos de violência ou autolesão. O processo busca agora uma indenização e exige que a empresa adote medidas preventivas, como o encerramento automático de interações que apresentem riscos à integridade física dos usuários, intensificando o debate sobre os limites éticos e a segurança das ferramentas de IA.
Comentários
Carregando comentários...