Snowflake lança roteamento dinâmico para reduzir custos com IA
Nova funcionalidade do Cortex AI Gateway otimiza gastos ao selecionar automaticamente o modelo de IA mais eficiente para cada tarefa corporativa.
Pontos principais
- O roteamento dinâmico utiliza modelos menores para tarefas simples e maiores para complexas, reduzindo custos em até 3x.
- O sistema opera por meio de um padrão de 'conselheiro' e um classificador baseado no histórico de consultas.
- A solução mantém a governança de dados e controles de acesso dentro do perímetro de segurança da Snowflake.
- A aquisição da Natoma integra conectores MCP para permitir o acesso governado a ferramentas externas.
- O mercado de gateways de IA cresce com a concorrência de empresas como Databricks, Nvidia e OpenRouter.
A Snowflake anunciou uma atualização em seu Cortex AI Gateway focada na otimização de custos e desempenho para empresas que utilizam inteligência artificial. A nova funcionalidade de roteamento dinâmico seleciona automaticamente o modelo mais adequado para cada consulta, priorizando modelos menores para tarefas simples e modelos mais robustos para demandas complexas. Segundo a companhia, essa estratégia pode reduzir os gastos operacionais em até três vezes, mantendo a governança de dados e a segurança dentro do ambiente da plataforma. Além disso, a recente compra da startup Natoma expande as capacidades da ferramenta ao incluir conectores MCP para acesso a sistemas externos. Em um mercado cada vez mais competitivo, com players como Databricks e Nvidia, a Snowflake busca se diferenciar ao integrar eficiência de custos com controles de governança corporativa, permitindo que as empresas escalem o uso de LLMs sem comprometer a segurança ou o orçamento.
Comentários
Carregando comentários...