Meta notificará pais sobre conversas de risco de adolescentes com IA

A Meta anunciou uma atualização em suas ferramentas de segurança voltada para a proteção de adolescentes que utilizam seu chatbot de inteligência artificial. O novo sistema de supervisão parental foi desenhado para identificar conversas que indiquem risco de automutilação ou ideação suicida, disparando alertas automáticos aos responsáveis legais por meio de e-mail, WhatsApp ou notificações no aplicativo. Para garantir a precisão e evitar alarmes falsos, a empresa estabeleceu um protocolo de revisão humana antes que qualquer aviso seja emitido, assegurando que a privacidade do usuário seja preservada ao não compartilhar o conteúdo integral dos diálogos. Além das notificações, a Meta introduziu a configuração de 'Conteúdo Limitado', que restringe o acesso a temas considerados inadequados para menores de idade.

A medida surge em um momento de intensa pressão regulatória e social sobre as empresas de tecnologia em relação ao impacto de seus produtos na saúde mental de jovens. Desenvolvida com o suporte de mais de 75 especialistas em saúde mental, a funcionalidade busca equilibrar a autonomia dos usuários com a necessidade de intervenção em situações de vulnerabilidade extrema. Embora o recurso esteja disponível inicialmente apenas em mercados selecionados, como Estados Unidos, Canadá, Reino Unido e Austrália, a Meta confirmou que pretende expandir a ferramenta globalmente até o final de 2026. Paralelamente, a companhia informou que está trabalhando em sistemas capazes de acionar serviços de emergência diretamente em casos de risco iminente, reforçando seu compromisso com a segurança digital de seus usuários mais jovens.