Daily Journal
Daily Journal

Databricks lança ferramenta de roteamento inteligente para IA

O novo Smart Routing do Unity AI Gateway reduz custos de codificação em mais de 30% ao selecionar automaticamente o modelo ideal para cada tarefa.

Daily Journal
||
14/08 às 13:34

Pontos principais

  • A ferramenta Smart Routing, agora em fase beta, classifica a complexidade de tarefas de codificação antes da execução.
  • O sistema direciona demandas simples para modelos mais eficientes e reserva modelos de alta performance apenas para tarefas complexas.
  • Testes internos da Databricks indicam uma redução de custo por tarefa superior a 30%, mantendo a qualidade de modelos de ponta.
  • Em benchmarks públicos, a solução igualou o desempenho do modelo Opus 5 com menos da metade do custo operacional.
  • A tecnologia é compatível nativamente com ferramentas como Claude Code e Codex.
  • A Databricks também introduziu o Omnigent, um meta-harness que automatiza a escolha tanto do modelo quanto da estrutura de codificação.
  • O roteamento utiliza uma abordagem baseada em tarefas para preservar a eficiência do cache e otimizar o uso de recursos.

A Databricks anunciou o lançamento do Smart Routing, uma nova funcionalidade integrada ao Unity AI Gateway projetada para otimizar os custos de desenvolvimento com inteligência artificial. A ferramenta atua como um roteador inteligente que avalia a complexidade de cada solicitação de codificação, encaminhando-a para o modelo mais adequado e econômico, evitando o uso desnecessário de modelos 'frontier' de alto custo para tarefas rotineiras. A solução visa resolver o problema de sobrecarga de escolha enfrentado por desenvolvedores, que frequentemente optam pelo modelo mais potente por padrão.

Além da economia financeira, a Databricks introduziu o Omnigent, uma plataforma que orquestra a seleção de modelos e harnesses de codificação de forma automatizada. Ao analisar o contexto da tarefa e o histórico de uso, o sistema busca equilibrar produtividade e eficiência orçamentária. A iniciativa insere a empresa em um mercado crescente de roteadores de IA, competindo com soluções como Cursor Router e OpenRouter, focadas em maximizar a eficiência operacional em ambientes corporativos que escalam o uso de agentes de codificação.

Comentários

Carregando comentários...