Sakana AI e UC Berkeley apresentam método de autoaperfeiçoamento MASS
A técnica MASS utiliza equipes de agentes virtuais para otimizar fluxos de trabalho e melhorar o desempenho de modelos de linguagem de forma recursiva.
Pontos principais
- O método MASS alterna entre a otimização de fluxos multi-agente e a internalização via fine-tuning.
- Testes com um modelo de 27B parâmetros registraram um aumento de até 1,6 vezes no desempenho por token.
- A pesquisa foi desenvolvida em colaboração com pesquisadores da UC Berkeley.
- O estudo aponta que o treinamento com dados de equipes multi-agentes supera a eficiência de trajetórias de agente único.
- Pesquisadores alertam para riscos de segurança em sistemas onde o modelo atua como seu próprio avaliador.
A Sakana AI, em parceria com pesquisadores da UC Berkeley, anunciou o desenvolvimento do Multi-Agent Self-Supervision (MASS). A técnica utiliza equipes de agentes autônomos para otimizar fluxos de trabalho e aprimorar modelos de linguagem de forma recursiva. Testes realizados com um modelo de 27B parâmetros demonstraram um aumento significativo no desempenho por token. O estudo também destaca que o treinamento baseado em inteligência coletiva é mais eficiente, embora alerte para riscos de segurança em processos de autoavaliação.
Cobertura da mídia
@SakanaAILabs: Recursive Self-Improvement through Multi-Agent Self-Supervision
x.com • 12 out, 04:32
@hardmaru: New paper from the team at Sakana AI:
x.com • 11 out, 17:47
@SakanaAILabs: Introducing Multi-Agent Self-Supervision (MASS): Recursive self-improvement through collective intelligence
x.com • 11 out, 17:45
Comentários
Carregando comentários...