Liquid AI lança modelo LFM2.5-2.6B para execução local em dispositivos
O novo modelo da Liquid AI permite rodar agentes autônomos em hardware de baixo consumo, como Raspberry Pi, sem depender de nuvem ou GPUs.
Pontos principais
- O modelo LFM2.5-2.6B conta com 2,6 bilhões de parâmetros e janela de contexto de 128 mil tokens.
- A arquitetura foi otimizada para processamento em CPUs, viabilizando o uso em smartphones e computadores de placa única.
- A empresa firmou parceria com a MacPaw para integrar a tecnologia em assistentes locais no macOS.
- O modelo é focado em automação de tarefas e uso de ferramentas, superando a função de simples conversação.
- A licença de uso comercial é restrita para empresas que faturam acima de 10 milhões de dólares.
A startup Liquid AI anunciou o lançamento do LFM2.5-2.6B, um modelo de linguagem compacto projetado para operar localmente em dispositivos de hardware limitado, como o Raspberry Pi. Diferente de modelos que exigem infraestrutura robusta de data centers ou GPUs potentes, esta tecnologia prioriza a eficiência em CPUs, permitindo que agentes autônomos executem tarefas complexas diretamente em smartphones e computadores de placa única. O foco do modelo reside na automação e na interação com ferramentas, em vez de apenas processamento de linguagem natural convencional. Além da versatilidade técnica, a Liquid AI estabeleceu uma parceria com a MacPaw para implementar a solução em assistentes locais no macOS. A estratégia de licenciamento da startup impõe restrições comerciais para empresas com receita anual superior a 10 milhões de dólares, marcando um movimento relevante na descentralização da inteligência artificial.
Comentários
Carregando comentários...