Daily Journal
Daily Journal

Dyna Robotics identifica leis de escala em modelos de robótica

A Dyna Robotics relata que seu modelo melhora de forma previsível com mais horas de vídeo humano, e que o ganho se transfere para robôs.

Daily Journal
Foto: Zhang Xiaojun Podcast
||
16/10 às 17:51

Pontos principais

  • A Dyna usou mais de 1 milhão de horas de vídeo egocêntrico humano no pré-treino do Dyna-2, sem nenhum dado de robô.
  • Em dados humanos retidos, as métricas seguem lei de potência de 1 mil a 1 milhão de horas; a acurácia@0,1 sobe 51% ao longo da escala, contra 12% no MSE.
  • Em 39 tarefas em duas plataformas bimanuais YAM, o desempenho também melhora com mais horas humanas, com inflexão entre 10 mil e 100 mil horas.
  • No pós-treino, com até 10 horas de dados de robô por tarefa em 14 tarefas, a média normalizada vai de 20% com 1 mil horas humanas a 53% com 1 milhão.
  • A empresa afirma, até onde sabe, ser a primeira lei de escala demonstrada através da diferença entre humano e robô.

A Dyna Robotics apresentou o Dyna-2, um modelo de ação e mundo que treina previsão de vídeo e ação em conjunto. Segundo a empresa, ele ganha desempenho previsível com mais horas de vídeo egocêntrico humano, e essa tendência se mantém depois de um ajuste com poucas horas de dados de robô.

A empresa deixa para trabalhos futuros os experimentos de escala de computação e de tamanho do modelo. Também diz que os modelos de produção usam receitas diferentes das variantes do estudo, e acredita que os resultados se generalizam.

Comentários

Carregando comentários...