Daily Journal
Daily Journal

Meta lança Muse Realtime Avatar com latência inferior a um segundo

A Meta AI Research anunciou o Muse Realtime Avatar, tecnologia que anima avatares em tempo real a partir de imagens de referência, com latência ponta a ponta de cerca de 870 milissegundos.

Daily Journal
Foto: x.com
||
23/09 às 22:10, atualizado 24/09 às 03:10

Pontos principais

  • O Muse Realtime Avatar anima qualquer imagem de referência (retrato, ilustração, animal ou objeto) com movimentos faciais, das mãos e do corpo sincronizados com o modelo Muse Realtime Voice.
  • A latência ponta a ponta, do fim da fala do usuário até a resposta sincronizada de voz e vídeo, é de aproximadamente 870 milissegundos.
  • Por destilação, a Meta reduziu a inferência de 120 para 2 avaliações de função neural por chunk, redução de 60 vezes, mantendo a qualidade.
  • O sistema gera vídeo retrato de 448x768 pixels a 25 quadros por segundo e suporta 12 sessões simultâneas em tempo real numa única GPU NVIDIA GB200.
  • Em avaliações com avaliadores humanos, o Muse foi preferido em 78% dos casos frente ao Runway Characters e em 88% frente ao HeyGen LiveAvatar.
  • A tecnologia incrusta marca d'água invisível via Meta Video Seal para rastreabilidade do conteúdo gerado; o uso do Muse é restrito a maiores de 18 anos.

A Meta AI Research anunciou o Muse Realtime Avatar, tecnologia de embodiment em tempo real que transforma o modelo de voz Muse Realtime Voice em avatares expressivos, animando qualquer imagem de referência, retrato, ilustração, animal ou objeto, com movimentos faciais, das mãos e do corpo sincronizados durante conversas ao vivo.

A arquitetura é um pipeline único de streaming que liga voz e embodiment: tokens de fala alimentam diretamente um Diffusion Transformer que gera vídeo em blocos causais, com coerência mantida por janelas de contexto móveis, rodando em GPU NVIDIA GB200.

O sistema permite personalizar o tom de voz da IA em videochamadas, com marca d'água nativa via Meta Video Seal para identificação do conteúdo. O uso do Muse é restrito a maiores de 18 anos.

Fonte primária

Meta AI Research

Bringing Your Muse to Life

Meta apresenta o Muse Realtime Avatar, tecnologia de embodiment em tempo real que transforma o Muse Realtime Voice em avatares expressivos e interativos, animando qualquer imagem (retrato, ilustração, animal ou objeto) com movimentos faciais, das mãos e do corpo sincronizados durante conversas ao vivo. A arquitetura é um pipeline de streaming único que conecta inteligência, voz e embodiment: tokens de fala do modelo de voz alimentam diretamente um Diffusion Transformer que gera vídeo em chunks causais, mantendo coerência via janelas de contexto móveis. Por destilação, a Meta reduziu a inferência de 120 para 2 avaliações de função neural por chunk (redução de 60x) mantendo a qualidade, com o stack otimizado gerando vídeo retrato 448x768 a 25 quadros por segundo e suportando 12 sessões simultâneas em tempo real numa única GPU GB200. A latência ponta a ponta, do fim da fala do usuário até a resposta sincronizada de voz e vídeo, é de aproximadamente 870 milissegundos. Em avaliações com avaliadores humanos em conversas ao vivo, o Muse foi preferido em 78% frente ao Runway Characters e em 88% frente ao HeyGen LiveAvatar, destacando-se em expressividade facial, naturalidade de movimento, sincronia labial e preservação de personagem. O sistema incrusta marcas d'água invisíveis via Meta Video Seal para rastreabilidade da mídia gerada e reduzir riscos de uso indevido; o uso do Muse requer usuários com 18 anos ou mais.

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.