Moonshot AI lança modelo Kimi-K3.1-Pro com 2,8 trilhões de parâmetros
A chinesa Moonshot AI lançou o Kimi-K3.1-Pro, modelo de pesos abertos com 2,8 trilhões de parâmetros totais, 104 bilhões ativos por token e janela de 1.048.576 tokens.
Pontos principais
- Arquitetura MoE com 896 especialistas, dos quais 16 ativos por token e 2 compartilhados, e 93 camadas.
- Entrada de texto e imagem, com codificador de visão MoonViT-V2 de 401 milhões de parâmetros.
- Atenção mista: 69 camadas KDA e 24 Gated DSA, a atenção esparsa que substitui a Gated MLA do Kimi K3.
- Pesos em MXFP4 e ativações em MXFP8, com treinamento consciente de quantização.
- Na avaliação da própria Moonshot, com raciocínio máximo: 92,1 no BrowseComp e 70,0 no HLE com ferramentas.
A chinesa Moonshot AI lançou o Kimi-K3.1-Pro como modelo de pesos abertos e nativamente multimodal, pós-treinado a partir do Kimi K3 com aprendizado por reforço conjunto em centenas de domínios. Segundo a empresa, os ganhos substanciais estão em programação, criação 3D, pesquisa financeira, precisão factual e outras capacidades agênticas.
A licença própria exige acordo separado com a Moonshot de operadores de Model as a Service com receita acima de US$ 20 milhões em 12 meses. Produtos com mais de 100 milhões de usuários ativos mensais, ou receita mensal de US$ 20 milhões, devem exibir o nome do modelo na interface.
Fonte primária
Cobertura da mídia
Comentários (0)
Seja o primeiro a comentar.