Jane Street on GPUs, Trading, and Hiring: A Conversation with Dwarkesh

Contexto

O vídeo apresenta uma conversa entre Dwarkesh Patel e representantes da Jane Street (Ron Minsky, chefe de tecnologia, e Dan Ponttovo, chefe de engenharia física) durante uma visita a um dos data centers da empresa no Texas. A discussão aborda a infraestrutura computacional, o uso de GPUs e FPGAs no trading, a estratégia de contratação e o papel da inteligência artificial na firma.

Estratégia de Trading e Computação

• Horizontes de Tempo: A Jane Street opera em múltiplos regimes de tempo. Para latências abaixo de 100 nanossegundos, utilizam FPGAs conectados diretamente à rede. Para decisões mais complexas, utilizam CPUs e GPUs com horizontes que variam de microssegundos a dias.
• Modelagem: O objetivo central é prever o "valor justo" de ativos. A empresa adota uma abordagem de conjunto (ensemble), onde diferentes modelos e processos de decisão são aplicados conforme a necessidade de velocidade ou complexidade.
• Diferenciação: Diferente de laboratórios de IA generalistas, a Jane Street foca em especialização, adaptando modelos para fontes de dados específicas e lidando com dados financeiros ruidosos que exigem alta taxa de transferência (throughput).
• Infraestrutura: A empresa está migrando de uma arquitetura baseada exclusivamente em x86 para suportar ARM (devido a produtos da Nvidia) e enfrentando desafios de desagregação, já que a demanda por energia e resfriamento impede a centralização de todo o poder computacional em um único local.

Implicações e Futuro

• Escalabilidade: A Jane Street está expandindo seu parque de GPUs de dezenas de milhares para centenas de milhares. O gargalo atual não é o custo, mas a logística de infraestrutura (geradores, transformadores, sistemas de resfriamento líquido) e a capacidade de treinar e integrar novos talentos à cultura da firma.
• O Papel Humano: Minsky argumenta que o trading é "AGI-complete" e que, em momentos de transição de fase no mercado (eventos extremos), o julgamento humano supera os modelos automatizados. A empresa busca aumentar a agência e a eficiência humana através de ferramentas, não substituí-la.
• Contratação: A empresa mantém uma busca ativa por engenheiros de software, especialistas em machine learning, engenheiros de hardware (ASICs) e, futuramente, especialistas em métodos formais para garantir a robustez dos sistemas.

"Acho que é fácil subestimar a riqueza e a complexidade do trabalho feito em uma empresa como a Jane Street, ou realmente em qualquer tarefa de alta dificuldade e escala." — Ron Minsky

"Estamos em algo como a faixa de dezenas de milhares de GPUs e, em breve, estaremos na faixa de centenas de milhares." — Ron Minsky