Daily Journal
Daily Journal

Daniel Gross lança desafio de US$ 100 mil para acelerar o Muse Spark Open

Desafio de US$ 100 mil, anunciado por Daniel Gross, busca tornar o Muse Spark Open mais rápido que o SGLang, começando por kernels de GPU e terminando no serving.

Daily Journal
Foto: x.com
||
22/10 às 16:40, atualizado 22:40

Pontos principais

  • Trilha de kernels, de 22 de outubro a 4 de novembro: o kernel é medido na mesma H200 que o SGLang, em CUDA graph, com entradas de conversas de programação agêntica servidas pelo SGLang, de 1 a 32 usuários.
  • Na trilha de kernels, a nota é o quanto o kernel supera o SGLang.
  • Trilha de serving, de 5 a 19 de novembro: o competidor modifica o SGLang para servir o Muse Spark Open e envia o diff; cada submissão usa um nó com 8 H200.
  • Na trilha de serving, a nota é a curva de throughput (tokens/s por GPU) e de interatividade (tokens/s por usuário) acima da curva do SGLang, em média nas cargas de 1, 4, 16 e 32 usuários.
  • Os prêmios em dinheiro são pagos na trilha de serving: US$ 50 mil ao primeiro, com uma H200 autografada; US$ 30 mil ao segundo; US$ 10 mil ao terceiro; US$ 3 mil ao quarto; US$ 2 mil ao quinto; US$ 1 mil cada do sexto ao décimo.
  • Os melhores da trilha de kernels têm prioridade nos nós de 8 H200 da trilha de serving.
  • Os primeiros colocados podem ser convidados a entrevistar para uma vaga na Meta.

Daniel Gross anunciou no X um desafio de US$ 100 mil para tornar o Muse Spark Open mais rápido que o SGLang. A primeira fase, de 22 de outubro a 4 de novembro, mede kernels de GPU; a segunda, de 5 a 19 de novembro, mede o serving do modelo.

O desafio testa cada kernel com entradas aleatórias e o cronometra na mesma H200 que o SGLang, em CUDA graph. Na fase de serving, os competidores enviam um diff do SGLang, avaliado em um nó de oito H200.

Fontes primárias

Cobertura da mídia

Comentários