Karpathy abre código do autoresearch: agentes de IA iteram sobre treinamento de LLMs em loop contínuo
Ferramenta de 630 linhas em Python rodou 110 experimentos em 12 horas numa GPU, melhorando validação de bits-per-byte autonomamente.
||
09/03 às 09:00
Pontos principais
- Autoresearch tem 630 linhas de Python para iteração autônoma sobre código de treinamento de LLMs
- 110 experimentos autônomos em 12 horas melhoraram validação de 0,862 para 0,858 bits-per-byte
- Humano escreve strategy em program.md; agente modifica arquitetura, hiperparâmetros e otimizadores
- Roda numa única GPU com experimentos de 5 minutos em loop contínuo
- India Today chamou de 'a singularidade começa agora'
Andrej Karpathy abriu o código do autoresearch, uma ferramenta de 630 linhas de Python que permite que agentes de IA iterem autonomamente sobre código de treinamento de LLMs numa única GPU. O humano define a estratégia num arquivo program.md, enquanto o agente modifica arquitetura, hiperparâmetros e otimizadores em loop contínuo.
Em uma demonstração, 110 experimentos autônomos em 12 horas melhoraram a validação de bits-per-byte de 0,862 para 0,858 — cerca de 12 experimentos por hora sem intervenção humana.
Comentários
Carregando comentários...