OpenAI focará em alinhamento geral para o modelo Astra
A OpenAI priorizará estratégias de alinhamento amplas no modelo Astra, distanciando-se de correções pontuais após incidentes recentes.
||
04/09 às 14:10
Pontos principais
- As melhorias de alinhamento no modelo Astra são anteriores ao incidente da HF.
- A OpenAI adotará uma estratégia focada em abordagens gerais de alinhamento.
- A empresa evitará concentrar esforços exclusivamente em correções para modos de falha específicos.
O cientista da computação Boaz Barak esclareceu que as melhorias de alinhamento implementadas no modelo Astra da OpenAI são resultado de esforços iniciados antes do incidente da HF. Segundo o especialista, a empresa direcionará suas futuras iniciativas de alinhamento para abordagens gerais, em vez de focar em correções pontuais para modos de falha específicos.
Comentários
Carregando comentários...
