Google apresenta TabFM para previsões em dados tabulares
O novo modelo de fundação do Google permite realizar previsões em tabelas inéditas sem necessidade de treinamento específico para cada conjunto.
Pontos principais
- O TabFM utiliza aprendizado em contexto para viabilizar inferências zero-shot em dados tabulares.
- A arquitetura combina atenção alternada entre linhas e colunas com técnicas de compressão para maior eficiência.
- O modelo foi treinado inteiramente com dados sintéticos gerados por modelos causais estruturais.
- A tecnologia será integrada ao BigQuery por meio do comando AI.PREDICT para reduzir o tempo de engenharia de pipelines.
- O código está disponível sob licença Apache 2.0, embora os pesos do modelo possuam restrições para uso comercial.
O Google Research revelou o TabFM, um modelo de fundação projetado para transformar a análise de dados tabulares ao eliminar a necessidade de treinamento específico para cada novo conjunto de dados. Ao tratar a previsão como um problema de aprendizado em contexto, o modelo consegue realizar inferências zero-shot em tabelas que nunca viu anteriormente. A arquitetura utiliza uma combinação de atenção alternada entre linhas e colunas, otimizada por compressão, para processar informações de forma eficiente. Embora apresente um custo computacional superior durante a inferência em comparação a modelos tradicionais, o TabFM promete reduzir drasticamente o tempo gasto na engenharia de pipelines de dados. O Google planeja integrar a ferramenta diretamente ao BigQuery via comando AI.PREDICT, facilitando o acesso à tecnologia, que possui código aberto, mas restrições de uso comercial para seus pesos.
Tópicos relacionados
Comentários
Carregando comentários...