Weka lança plataforma NeuralMesh 6 para otimizar memória de GPUs
Nova solução da Weka utiliza armazenamento flash para reduzir o processamento de tokens em modelos de IA e diminuir custos de infraestrutura.
Pontos principais
- A plataforma NeuralMesh 6 introduz o 'Augmented Memory Grid' para transformar armazenamento flash em memória de GPU.
- O sistema visa eliminar o desperdício de processamento causado pelo reprocessamento de tokens em conversas longas de IA.
- A empresa lançou o Wekapod 3, sua primeira linha de hardware proprietário para suportar a nova arquitetura.
- A solução oferece suporte a multi-tenancy composível e armazenamento unificado de arquivos e objetos.
A Weka anunciou o lançamento da plataforma NeuralMesh 6 e do hardware Wekapod 3, focados em otimizar a infraestrutura para inteligência artificial. A principal inovação é o 'Augmented Memory Grid', que permite utilizar armazenamento flash de baixo custo como extensão da memória de GPU, reduzindo significativamente a carga de processamento. A tecnologia atua armazenando tokens pré-calculados, o que evita o reprocessamento constante em modelos de linguagem de longa duração e diminui os custos operacionais de inferência. Com o lançamento do Wekapod 3, a empresa expande sua atuação para o mercado de hardware proprietário, posicionando-se como uma infraestrutura nativa em IA. A solução também integra armazenamento unificado de arquivos e objetos, eliminando a necessidade de camadas de tradução e oferecendo maior eficiência para ambientes de computação de alto desempenho que exigem escalabilidade e multi-tenancy.
Comentários
Carregando comentários...