Pesquisadores criam o delta-mem, solução que adiciona memória dinâmica a modelos de IA com custo computacional reduzido e alta eficiência.

Pesquisadores desenvolveram o delta-mem, um módulo inovador projetado para conferir memória de trabalho dinâmica a agentes de inteligência artificial. Ao contrário das abordagens tradicionais de RAG (Retrieval-Augmented Generation), que frequentemente enfrentam limitações com janelas de tokens, o delta-mem utiliza uma matriz de tamanho fixo para comprimir o histórico de interações. Com um acréscimo de apenas 0,12% de parâmetros ao modelo base, a solução oferece uma alternativa leve e eficiente para manter o contexto em tempo real.
A implementação utiliza a 'regra delta' para viabilizar o aprendizado online, permitindo que a IA atualize sua memória durante a inferência. Especialistas apontam que a arquitetura ideal para o futuro da IA será híbrida, combinando o delta-mem como uma memória de trabalho rápida para processamento imediato, enquanto o RAG permanece como a ferramenta principal para a recuperação de documentos extensos e fatos históricos.
20 mai, 16:05
15 mai, 18:35
11 mai, 19:14
28 abr, 12:13
1 mar, 13:19
Carregando comentários...