Hugging Face lança versão 1.13 da biblioteca TRL
A nova versão da biblioteca de código aberto TRL permite o treinamento de modelos com janelas de contexto superiores a 1 milhão de tokens.
Pontos principais
- A versão 1.13 da TRL foca no pós-treinamento de foundation models.
- A atualização viabiliza o processamento de janelas de contexto acima de 1 milhão de tokens.
- O lançamento inclui um novo guia técnico para o pós-treinamento de modelos de linguagem.
- A biblioteca apresenta melhorias na velocidade de processamento e na eficiência de memória.
A Hugging Face anunciou o lançamento da versão 1.13 da TRL, sua biblioteca de código aberto voltada para o treinamento de modelos de linguagem. A principal novidade desta atualização é o suporte para o pós-treinamento de foundation models com janelas de contexto que superam a marca de 1 milhão de tokens.
Além da expansão na capacidade de contexto, a nova versão traz otimizações técnicas focadas na performance. O lançamento inclui um guia técnico para auxiliar desenvolvedores no processo de pós-treinamento, além de melhorias na velocidade de processamento e na eficiência do uso de memória durante a execução das tarefas.
Comentários
Carregando comentários...
