Nova técnica RLSD otimiza modelos de raciocínio com menos recursos
Pesquisadores da JD.com e instituições acadêmicas desenvolveram o RLSD, uma técnica que permite construir modelos de raciocínio personalizados com menor custo computacional e maior eficiência.
Pontos principais
- A técnica RLSD (Reinforcement Learning with Verifiable Rewards with Self-Distillation) permite construir modelos de raciocínio personalizados com menos recursos computacionais.
- O RLSD combina o rastreamento de desempenho do aprendizado por reforço com o feedback granular da autodistilação.
- Modelos treinados com RLSD superam algoritmos clássicos de destilação e aprendizado por reforço em experimentos.
- A técnica foi testada com o modelo Qwen3-VL-8B, resultando em maior precisão e velocidade de convergência em benchmarks de raciocínio visual.
- Empresas podem integrar o RLSD usando dados proprietários sem a necessidade de um professor externo ou de enviar dados para fora da rede.
Pesquisadores da JD.com e de instituições acadêmicas desenvolveram uma nova técnica chamada Reinforcement Learning with Verifiable Rewards with Self-Distillation (RLSD), que permite a construção de modelos de raciocínio personalizados com uma fração dos recursos computacionais tradicionalmente necessários. O RLSD combina o rastreamento de desempenho confiável do aprendizado por reforço com o feedback granular da autodistilação, superando algoritmos clássicos de destilação e aprendizado por reforço em testes práticos.
Esta inovação aborda desafios como o feedback esparso e o alto custo computacional de métodos anteriores, além de evitar o vazamento de informações. A técnica desacopla a direção da atualização (determinada por feedback verificável) da magnitude da atualização (determinada por um auto-professor). Testes com o modelo Qwen3-VL-8B demonstraram que o RLSD alcançou maior precisão e velocidade de convergência em benchmarks de raciocínio visual, oferecendo às empresas a capacidade de integrar a técnica em seus fluxos de trabalho usando dados proprietários sem a necessidade de um professor externo ou de enviar dados para fora da rede.
Tópicos relacionados
Comentários
Carregando comentários...
