Daily Journal
Daily Journal

Edison Scientific aprimora LLMs com novo método de pós-treinamento

A Edison Scientific apresenta método de pós-treinamento que aprende só com textos científicos reais, sem rótulos nem exemplos negativos sintéticos.

Daily Journal
Foto: x.com
||
11/11 às 14:40, atualizado 16:15

Pontos principais

  • A Edison descreve um método que aprende só com textos reais, como artigos e patentes, sem exemplos negativos sintéticos.
  • O juiz vê apenas a resposta final e é treinado junto com o gerador; o juiz do experimento principal é um Qwen3-14B.
  • No NIH, a Edison registra 55% de engano sobre especialistas humanos, contra 21% a 44% dos modelos comparados no gráfico.
  • Contra cinco juízes de LLM de fronteira, o engano médio é de cerca de 35%; nenhum baseline passa de 4%.
  • Na multiplicação de inteiros de quatro dígitos, o método iguala ou supera o treino com verificador.
  • A Edison não informa o tamanho do gerador; Andrew White cita um modelo de 235 bilhões de parâmetros.
  • A empresa não testou a hipótese de que juízes de LLM notam diferenças que especialistas deixam passar.

A Edison Scientific apresenta o Reinforced Adversarial Learning (RAL), método de pós-treinamento para modelos de raciocínio criado por Albert Bou e Siddharth Narayanan. Ele aprende só com textos científicos reais, como artigos e patentes, sem exemplos negativos sintéticos ou rótulos. Um gerador e um juiz são treinados juntos; o juiz vê apenas a resposta final e estima se ela veio dos textos reais ou do gerador.

No experimento com resumos de propostas de financiamento do NIH, o RAL engana especialistas humanos em 55% dos casos, contra 21% a 44% dos modelos comparados. Contra um painel de cinco juízes de LLM de fronteira, o engano médio é de cerca de 35%, e nenhum baseline passa de 4%. O juiz é um Qwen3-14B. A Edison não informa o tamanho do gerador; Andrew White, cofundador da Edison, afirma que a técnica foi aplicada a um modelo de 235 bilhões de parâmetros.

Na multiplicação de inteiros de quatro dígitos, tarefa com verificador, o método iguala ou supera o treino direto com o verificador quando o juiz tem capacidade suficiente. A empresa admite não ter testado se juízes de LLM percebem diferenças sutis que especialistas não notam, hipótese que explicaria por que são enganados menos.

Fonte primária

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.