Nathan Lambert lança Trillium Labs para pesquisa aberta em IA
A nova organização sem fins lucrativos focará em receitas de pós-treinamento e segurança para modelos de IA de fronteira.
Pontos principais
- A Trillium Labs foi fundada por Nathan Lambert e Tom Zick.
- A entidade conta com apoio financeiro da Halcyon Futures e Schmidt Sciences.
- O foco inclui sistemas multiagentes, reward-hacking e segurança de IA.
- O conselho consultivo reúne especialistas como Thomas Wolf e Chris Manning.
Nathan Lambert e Tom Zick anunciaram a criação da Trillium Labs, uma organização sem fins lucrativos voltada ao fomento da ciência aberta em modelos de IA de fronteira. A iniciativa conta com suporte financeiro inicial da Halcyon Futures e da Schmidt Sciences para desenvolver infraestrutura e receitas de pós-treinamento.
A organização priorizará estudos sobre sistemas multiagentes, segurança de IA e problemas de reward-hacking. Com operações na Bay Area e em Cambridge, a entidade estabeleceu um conselho consultivo composto por pesquisadores como Thomas Wolf, Hanna Hajishirzi, Graham Neubig e Chris Manning.
Comentários
Carregando comentários...