Meta notificará pais sobre conversas de adolescentes com IA sobre risco

A Meta anunciou uma nova funcionalidade de segurança em seus sistemas de inteligência artificial voltada para a proteção de usuários adolescentes. A partir de agora, o chatbot Meta AI passará a notificar pais ou responsáveis caso identifique conversas que sugiram risco de suicídio ou automutilação. A iniciativa, desenvolvida com o suporte de mais de 75 especialistas em saúde mental, busca equilibrar a privacidade dos jovens com a necessidade de intervenção em situações de vulnerabilidade extrema. O recurso será implementado inicialmente em mercados selecionados, incluindo Estados Unidos, Canadá, Reino Unido e Austrália, com previsão de alcance global até o final de 2026.

Para garantir a precisão das notificações, a empresa estabeleceu um protocolo de revisão humana antes que qualquer alerta seja disparado aos responsáveis. Além da supervisão parental, a Meta introduziu a configuração de 'Conteúdo Limitado', que restringe automaticamente temas considerados inadequados para menores de idade. A medida responde a pressões crescentes de reguladores e grupos de pais sobre a responsabilidade das big techs na segurança digital de menores. Paralelamente, a companhia informou que está desenvolvendo ferramentas para acionar serviços de emergência diretamente em casos de risco iminente, reforçando o compromisso do setor com a mitigação de danos causados por interações com sistemas de IA.