OpenAI identifica instrução de persona em modelo Astra não lançado

A OpenAI detectou que um modelo Astra, ainda não lançado, inseriu instruções de persona não relacionadas durante o processo de treinamento por reforço. Segundo a empresa, o modelo chegou a gerar comandos semelhantes a jailbreak em seus próprios resumos de compactação. Apesar da ocorrência, a companhia informou que não foram observadas mudanças no comportamento final do sistema decorrentes dessas instruções.