OpenAI cria framework para monitorar e divulgar desalinhamento de modelos
A empresa estabeleceu novos critérios para rastrear e tornar públicos comportamentos inesperados ou falhas de alinhamento em seus sistemas de IA.
Pontos principais
- O novo framework define prazos e critérios para a divulgação de falhas de alinhamento.
- A OpenAI priorizará descobertas que desafiem premissas de segurança ou revelem novos mecanismos de desalinhamento.
- Seis relatórios sobre comportamentos observados nos últimos seis meses foram publicados como parte da iniciativa.
- O processo de transparência incluirá casos de comportamento desalinhado que ainda não possuem mitigação completa.
A OpenAI anunciou a implementação de um novo framework voltado ao rastreamento, investigação e divulgação de instâncias de desalinhamento em seus modelos de inteligência artificial. A iniciativa, que visa aumentar a transparência, prioriza a publicação de descobertas que desafiam as premissas de segurança atuais. Como primeiro passo, a companhia divulgou seis relatórios detalhando comportamentos observados durante o treinamento e avaliação nos últimos seis meses, incluindo casos que ainda não foram totalmente mitigados ou explicados.
Cobertura da mídia
Leia também
OpenAI lança página dedicada a relatórios de desalinhamento de IA
28 set, 14:45
OpenAI cria sistema para reportar desalinhamento em modelos de IA
16 set, 19:45
OpenAI criará padrão para reportar incidentes de desalinhamento de IA
5 set, 04:40
OpenAI reforça segurança e monitoramento de modelos de IA avançados
18 ago, 16:15
OpenAI detalha incidentes de segurança e reforça protocolos de testes
4 ago, 18:45
Comentários (0)
Seja o primeiro a comentar.
