Ex-pesquisadores da OpenAI questionam demissões e defendem auditores externos

OpenAI cannot make AI safe on its own: A note on third-party collaborations, open debate, and clear operating procedures (carta, em inglês)

Carta assinada pelos três pesquisadores de segurança e alinhamento demitidos da OpenAI na semana anterior, endereçada ao Safety and Security Committee, ao Safety Advisory Group e ao Mission Advisory Council. Dizem que a demissão e a forma como foi comunicada estão levando ex-colegas a temer falar e atuar como antes, e que a cultura aberta da empresa, em que pesquisadores podiam levantar preocupações e colaborar com organizações externas de segurança, está sendo corroída. Negam ter vazado à The Information o artigo sobre arquiteturas menos monitoráveis e afirmam que nunca se engajaram com terceiros fora do mandato de seus cargos. Detalham o papel de cada um: Korbak foi o ponto técnico de contato da METR na investigação do incidente com a Hugging Face; Balesni conduzia trabalho entre empresas sobre monitorabilidade em coordenação com membros do board e da C-suite; o acesso de Wang à caixa de e-mail de um executivo tinha sido delegado para recrutamento e a TI não o removeu quando pedido. Recomendações: cumprir os compromissos públicos de auditores externos embutidos na empresa (inclusive o de Sam Altman de 12 de setembro), preservar a monitorabilidade de modelos de fronteira e manter canais abertos e claros entre pesquisadores e o ecossistema externo de segurança.