Roteamento inteligente de modelos de IA eleva eficiência em codificação
Análise da Fireworks AI mostra que rotear tarefas entre diferentes modelos de linguagem atinge 97,6% de sucesso com custo reduzido.
Pontos principais
- Estudo avaliou 18 modelos de linguagem em 113 tarefas de codificação no benchmark DeepSWE.
- O roteamento otimizado alcançou 97,6% de taxa de sucesso ao custo de US$ 1,88 por tarefa.
- O melhor modelo individual testado atingiu 74,1% de sucesso ao custo de US$ 6,52 por tarefa.
- A Fireworks AI aponta o roteamento como uma estratégia para aumentar a eficiência de modelos de IA.
A Fireworks AI realizou um estudo comparativo utilizando 18 modelos de linguagem em 113 tarefas de codificação baseadas no benchmark DeepSWE. A análise buscou identificar o impacto do roteamento inteligente, que direciona cada tarefa para o modelo mais adequado para resolvê-la.
Os resultados indicaram que o roteamento otimizado atingiu uma taxa de sucesso de 97,6% com um custo de US$ 1,88 por tarefa. Em comparação, o melhor modelo individual avaliado obteve 74,1% de sucesso, porém com um custo significativamente maior, de US$ 6,52 por tarefa. A empresa defende que essa abordagem representa a próxima fronteira para a eficiência operacional de modelos de IA.
Comentários
Carregando comentários...
