Daily Journal
Daily Journal

Fireworks AI adiciona 31 novos parceiros ao Specialized Intelligence Index

A Fireworks AI incluiu 31 novos parceiros no Specialized Intelligence Index, cujos leaderboards por domínio comparam modelos em tarefas de setores como finanças, saúde e cibersegurança.

Daily Journal
Foto: x.com
||
28/10 às 13:40, atualizado 17:10

Pontos principais

  • A Fireworks AI incluiu 31 novos parceiros no Specialized Intelligence Index (SII), que compara modelos abertos, fechados e especializados em trabalho real e permite ver onde o treinamento pode compensar.
  • O índice tem 14 leaderboards por domínio e 66 entradas de benchmark, de cibersegurança e jurídico a finanças, saúde, suporte ao cliente, busca web e design de chips.
  • Entre os donos de benchmarks estão Harvey (jurídico), Sierra (suporte ao cliente) e Replit (software).
  • A comparação pesa qualidade contra custo e mede a velocidade como tempo de execução de ponta a ponta, excluindo o tempo do juiz, com três rodadas por tarefa.
  • Os scores de parceiros vêm do próprio dono de cada benchmark; a Fireworks ainda não os reexecutou, mas planeja fazê-lo.
  • Segundo a empresa, o índice não mede capacidade geral nem o máximo que um modelo alcançaria com harness próprio.

A Fireworks AI anunciou 31 novos parceiros no Specialized Intelligence Index (SII), que compara modelos abertos, fechados e especializados em tarefas reais, pesando qualidade, custo e velocidade. Os leaderboards cobrem 14 domínios, de cibersegurança e jurídico a finanças, saúde e design de chips.

Segundo a Fireworks, os scores de parceiros são informados pelo dono de cada benchmark e ainda não foram reexecutados pela empresa, que planeja fazê-lo. O índice não mede capacidade geral nem o máximo que um modelo alcançaria com harness próprio.

Fontes primárias

Cobertura da mídia

Comentários