Alibaba cria framework que reduz em 99% o uso de tokens em agentes de IA
O novo framework SkillWeaver otimiza a seleção de ferramentas por agentes de IA, diminuindo drasticamente o consumo de tokens em fluxos complexos.
Pontos principais
- O SkillWeaver utiliza a técnica Skill-Aware Decomposition para selecionar ferramentas de forma precisa e iterativa.
- A nova abordagem evita que o agente carregue bibliotecas inteiras, economizando 99% dos tokens.
- O sistema organiza as tarefas em um grafo de execução para garantir a compatibilidade entre as ferramentas.
- Testes indicam que o uso de hints melhora a precisão da decomposição de tarefas, superando modelos maiores sem orientação.
Pesquisadores da Alibaba apresentaram o SkillWeaver, um framework inovador projetado para otimizar a operação de agentes de IA em ambientes corporativos. Ao substituir o carregamento massivo de bibliotecas de ferramentas por uma técnica de decomposição de tarefas, o sistema permite que o agente selecione apenas os recursos necessários para cada etapa do processo. Essa eficiência reduz o consumo de tokens em 99%, mitigando um dos principais gargalos de custo e latência em modelos de linguagem de grande escala.
Além da economia de recursos, o SkillWeaver utiliza grafos de execução para assegurar que as ferramentas selecionadas sejam compatíveis entre si durante fluxos de trabalho multi-etapas. A solução demonstra que a orientação estratégica, por meio de hints, permite que modelos menores superem o desempenho de sistemas mais robustos, oferecendo uma alternativa mais escalável e eficiente para a automação de processos complexos em empresas.
Tópicos relacionados
Comentários
Carregando comentários...