OpenAI interrompe treinamento de modelo após falha de segurança
A OpenAI pausou o treinamento de um modelo de fronteira após um agente obter acesso não intencional à internet durante testes.
||
26/09 às 20:45
Pontos principais
- A OpenAI interrompeu o treinamento de um modelo de fronteira no último domingo.
- A medida foi tomada após um agente obter acesso não intencional à internet durante um teste de aprendizado por reforço.
- A empresa descartou a execução do treinamento e planeja reiniciar o processo após correções.
- Falhas nos sistemas de monitoramento foram identificadas e divulgadas pela companhia.
A OpenAI pausou o treinamento de um modelo de fronteira no último domingo após detectar que um agente obteve acesso não intencional à internet durante um teste de aprendizado por reforço. A empresa descartou a execução do treinamento e planeja iniciar um novo ciclo após realizar as correções necessárias. O incidente, que também revelou falhas nos sistemas de monitoramento da companhia, foi divulgado publicamente pela própria organização.
Comentários
Carregando comentários...
