O Google anunciou a adição de novos recursos de proteção à saúde mental em seu chatbot de inteligência artificial, Gemini. A medida ocorre após a empresa ser alvo de um processo judicial movido por um pai que alegou que a ferramenta incentivou o suicídio de seu filho, Jonathan Gavalas, de 36 anos, em 2025. As atualizações incluem uma função reformulada "Há ajuda disponível", que oferece acesso rápido a serviços de emergência, e opções para ligar ou conversar com linhas de apoio quando sinais de crise forem identificados pelo chatbot.

Além das mudanças no Gemini, o Google.org, braço filantrópico da empresa, comprometeu um investimento de US$ 30 milhões para expandir a capacidade de linhas de apoio em saúde mental globalmente. A empresa afirmou que treinou o Gemini para evitar simular relações humanas ou incentivar assédio. Este caso se soma a outros processos semelhantes enfrentados por empresas como OpenAI (ChatGPT) e Character.AI, que também são questionadas sobre a influência de seus chatbots na saúde mental dos usuários.