Brasileira lidera estratégias de proteção a jovens na OpenAI

A brasileira Rafaela Nicolazzi, líder de proteção na OpenAI, tem desempenhado um papel central na definição das diretrizes de segurança da empresa voltadas para crianças e adolescentes. O trabalho foca em equilibrar a experiência do usuário com a privacidade, utilizando um conselho externo de especialistas e uma rede global de profissionais de saúde para validar as políticas da plataforma. Entre as medidas adotadas, destacam-se controles parentais robustos que permitem o monitoramento de interações e restrições específicas em recursos como voz e memória, além de um sistema de alerta que notifica responsáveis em casos de conversas sobre temas críticos, como suicídio ou automutilação.

Além das salvaguardas técnicas, a estratégia da companhia inclui o desenvolvimento de ferramentas pedagógicas, como o 'modo estudo', projetado para estimular o pensamento crítico dos jovens em vez de oferecer respostas automáticas. A iniciativa também contempla um esforço de conscientização, com materiais educativos produzidos em parceria com a USP para orientar famílias brasileiras. O tema ganha relevância em um momento em que o setor de tecnologia enfrenta debates intensos sobre a responsabilidade civil das empresas de IA e a necessidade de protocolos mais transparentes para a prevenção de riscos, tanto em ambientes de testes quanto no uso cotidiano por menores de idade.