Edison Scientific aprimora LLMs com novo método de pós-treinamento
A Edison Scientific apresenta método de pós-treinamento que aprende só com textos científicos reais, sem rótulos nem exemplos negativos sintéticos.
Pontos principais
- A Edison descreve um método que aprende só com textos reais, como artigos e patentes, sem exemplos negativos sintéticos.
- O juiz vê apenas a resposta final e é treinado junto com o gerador; o juiz do experimento principal é um Qwen3-14B.
- No NIH, a Edison registra 55% de engano sobre especialistas humanos, contra 21% a 44% dos modelos comparados no gráfico.
- Contra cinco juízes de LLM de fronteira, o engano médio é de cerca de 35%; nenhum baseline passa de 4%.
- Na multiplicação de inteiros de quatro dígitos, o método iguala ou supera o treino com verificador.
- A Edison não informa o tamanho do gerador; Andrew White cita um modelo de 235 bilhões de parâmetros.
- A empresa não testou a hipótese de que juízes de LLM notam diferenças que especialistas deixam passar.
A Edison Scientific apresenta o Reinforced Adversarial Learning (RAL), método de pós-treinamento para modelos de raciocínio criado por Albert Bou e Siddharth Narayanan. Ele aprende só com textos científicos reais, como artigos e patentes, sem exemplos negativos sintéticos ou rótulos. Um gerador e um juiz são treinados juntos; o juiz vê apenas a resposta final e estima se ela veio dos textos reais ou do gerador.
No experimento com resumos de propostas de financiamento do NIH, o RAL engana especialistas humanos em 55% dos casos, contra 21% a 44% dos modelos comparados. Contra um painel de cinco juízes de LLM de fronteira, o engano médio é de cerca de 35%, e nenhum baseline passa de 4%. O juiz é um Qwen3-14B. A Edison não informa o tamanho do gerador; Andrew White, cofundador da Edison, afirma que a técnica foi aplicada a um modelo de 235 bilhões de parâmetros.
Na multiplicação de inteiros de quatro dígitos, tarefa com verificador, o método iguala ou supera o treino direto com o verificador quando o juiz tem capacidade suficiente. A empresa admite não ter testado se juízes de LLM percebem diferenças sutis que especialistas não notam, hipótese que explicaria por que são enganados menos.
Fonte primária
Cobertura da mídia
@andrewwhite01: We've developed a way to bootstrap post-training from positive examples alone and show it works on arithmetic, molecular structures, and scientific writing. We've used the method t…
x.com • 11 nov, 15:41
@EdisonSci: At Edison, our machine learning research is guided by the challenges we encounter in developing Kosmos, our AI scientist. One such challenge is improving its scientific writing sty…
x.com • 11 nov, 14:00
Leia também
Google Research desenvolve fase de "sono" para aprimorar LLMs
27 out, 15:10
Perplexity apresenta JOLT, novo método de pós-treinamento para IA
21 out, 16:10
Pesquisador propõe técnica para LLMs editarem o próprio contexto
30 set, 10:40
Sebastian Raschka lança livro sobre construção de LLMs com raciocínio
30 jun, 13:39
Anthropic desenvolve autoencoders para decifrar 'pensamentos' de LLMs
7 mai, 17:34
Comentários (0)
Seja o primeiro a comentar.
