Google é processado por uso de IA em planejamento de suicídio
Pais de uma adolescente de 13 anos processam o Google, alegando que a IA da empresa foi usada pela filha para planejar o próprio suicídio.
Pontos principais
- A ação judicial acusa o Google de negligência ao permitir acesso de menores a recursos de IA em ambiente escolar.
- A adolescente teria utilizado a ferramenta para discutir o ato e planejar seu funeral antes de ser descoberta.
- O Google afirmou estar analisando o caso e ressaltou que seus sistemas possuem proteções contra conteúdos de automutilação.
- O processo se junta a uma série de disputas judiciais sobre a segurança de menores em plataformas de inteligência artificial.
Pais de uma adolescente de 13 anos entraram com uma ação judicial contra o Google na Califórnia, alegando que a empresa falhou em proteger a menor de conteúdos perigosos. Segundo o processo, a jovem utilizou funcionalidades de inteligência artificial integradas ao buscador, em um computador escolar, para discutir e planejar seu próprio suicídio e funeral. A situação foi descoberta após o sistema de monitoramento da instituição de ensino emitir um alerta aos responsáveis.
Em resposta às acusações, o Google declarou que está analisando os detalhes do caso e reforçou que suas ferramentas de IA contam com proteções específicas para evitar a disseminação de conteúdos relacionados à automutilação. O episódio ocorre em um momento de crescente escrutínio sobre a responsabilidade de gigantes da tecnologia na segurança de menores, somando-se a outros litígios envolvendo empresas como a OpenAI e disputas regulatórias sobre o impacto de plataformas digitais na saúde mental juvenil.
Tópicos relacionados
Cobertura da mídia
Comentários (0)
Seja o primeiro a comentar.