Databricks lança ferramenta de roteamento inteligente para IA
O novo Smart Routing do Unity AI Gateway reduz custos de codificação em mais de 30% ao selecionar automaticamente o modelo ideal para cada tarefa.
Pontos principais
- A ferramenta Smart Routing, agora em fase beta, classifica a complexidade de tarefas de codificação antes da execução.
- O sistema direciona demandas simples para modelos mais eficientes e reserva modelos de alta performance apenas para tarefas complexas.
- Testes internos da Databricks indicam uma redução de custo por tarefa superior a 30%, mantendo a qualidade de modelos de ponta.
- Em benchmarks públicos, a solução igualou o desempenho do modelo Opus 5 com menos da metade do custo operacional.
- A tecnologia é compatível nativamente com ferramentas como Claude Code e Codex.
- A Databricks também introduziu o Omnigent, um meta-harness que automatiza a escolha tanto do modelo quanto da estrutura de codificação.
- O roteamento utiliza uma abordagem baseada em tarefas para preservar a eficiência do cache e otimizar o uso de recursos.
A Databricks anunciou o lançamento do Smart Routing, uma nova funcionalidade integrada ao Unity AI Gateway projetada para otimizar os custos de desenvolvimento com inteligência artificial. A ferramenta atua como um roteador inteligente que avalia a complexidade de cada solicitação de codificação, encaminhando-a para o modelo mais adequado e econômico, evitando o uso desnecessário de modelos 'frontier' de alto custo para tarefas rotineiras. A solução visa resolver o problema de sobrecarga de escolha enfrentado por desenvolvedores, que frequentemente optam pelo modelo mais potente por padrão.
Além da economia financeira, a Databricks introduziu o Omnigent, uma plataforma que orquestra a seleção de modelos e harnesses de codificação de forma automatizada. Ao analisar o contexto da tarefa e o histórico de uso, o sistema busca equilibrar produtividade e eficiência orçamentária. A iniciativa insere a empresa em um mercado crescente de roteadores de IA, competindo com soluções como Cursor Router e OpenRouter, focadas em maximizar a eficiência operacional em ambientes corporativos que escalam o uso de agentes de codificação.
Comentários
Carregando comentários...
