OpenAI cria framework para monitorar e divulgar desalinhamento de modelos

A OpenAI anunciou a implementação de um novo framework voltado ao rastreamento, investigação e divulgação de instâncias de desalinhamento em seus modelos de inteligência artificial. A iniciativa, que visa aumentar a transparência, prioriza a publicação de descobertas que desafiam as premissas de segurança atuais. Como primeiro passo, a companhia divulgou seis relatórios detalhando comportamentos observados durante o treinamento e avaliação nos últimos seis meses, incluindo casos que ainda não foram totalmente mitigados ou explicados.