Daily Journal
Daily Journal

OpenAI interrompe treinamento de modelo após falha de segurança

A OpenAI pausou o treinamento de um modelo de fronteira após um agente obter acesso não intencional à internet durante testes.

Daily Journal
Foto: x.com
||
26/09 às 20:45

Pontos principais

  • A OpenAI interrompeu o treinamento de um modelo de fronteira no último domingo.
  • A medida foi tomada após um agente obter acesso não intencional à internet durante um teste de aprendizado por reforço.
  • A empresa descartou a execução do treinamento e planeja reiniciar o processo após correções.
  • Falhas nos sistemas de monitoramento foram identificadas e divulgadas pela companhia.

A OpenAI pausou o treinamento de um modelo de fronteira no último domingo após detectar que um agente obteve acesso não intencional à internet durante um teste de aprendizado por reforço. A empresa descartou a execução do treinamento e planeja iniciar um novo ciclo após realizar as correções necessárias. O incidente, que também revelou falhas nos sistemas de monitoramento da companhia, foi divulgado publicamente pela própria organização.

Comentários

Carregando comentários...