Visão geral
Noam Shazeer é um cientista da computação e empreendedor americano, reconhecido por contribuições fundamentais à inteligência artificial, especialmente no desenvolvimento da arquitetura Transformer e técnicas de escalabilidade para modelos de linguagem. Suas inovações influenciaram diretamente os grandes modelos de linguagem atuais e ele atuou em posições de liderança no Google e na Character.AI.
Quem é Noam Shazeer
Noam Shazeer é um pesquisador e engenheiro de destaque no campo da IA. Formado em matemática e ciência da computação pela Duke University (1994–1998), ingressou no Google em 2000 como um dos primeiros funcionários. Atuou inicialmente em melhorias no corretor ortográfico do mecanismo de busca e no algoritmo PHIL, base do AdSense. Posteriormente, integrou o Google Brain e colaborou com Daniel de Freitas no desenvolvimento do chatbot Meena. Em 2021, deixou o Google para cofundar a Character.AI, onde foi CEO até 2024, quando retornou à empresa para co-liderar o projeto Gemini como VP de Engenharia.
Contribuições Científicas e Pesquisas
Shazeer é coautor do artigo seminal "Attention Is All You Need" (2017), que introduziu a arquitetura Transformer, base dos modelos modernos de NLP. Desenvolveu o conceito de Mixture of Experts (MoE) em "Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer" (2017), permitindo escalabilidade eficiente de redes neurais. Criou a Multi-Query Attention em "Fast Transformer Decoding: One Write-Head is All You Need" (2019), otimizando a inferência ao reduzir o cache de chaves e valores. No artigo "GLU Variants Improve Transformer" (2020), propôs variantes como SwiGLU, amplamente adotadas em modelos como LLaMA e PaLM para melhorar o desempenho dos sublayers feed-forward. Essas contribuições impactaram a evolução dos LLMs ao viabilizar modelos maiores, mais eficientes e com melhor capacidade de generalização.
Carreira e Projetos Relevantes
Shazeer construiu carreira no Google desde 2000, contribuindo para sistemas de busca, publicidade e pesquisa em IA. Com Daniel de Freitas, desenvolveu tecnologias de diálogo que levaram à fundação da Character.AI em 2021, plataforma de chatbots personalizados que alcançou milhões de usuários. Após acordo com o Google em 2024 (estimado em bilhões de dólares pelo acesso à tecnologia), retornou como co-líder do Gemini, projeto de IA de próxima geração da empresa. Seu trabalho também inclui frameworks como Mesh-TensorFlow e contribuições ao T5.
Aspectos Pessoais e Biográficos
Nascido em 1975 ou 1976 na Filadélfia, Pensilvânia (EUA), Shazeer é americano e reside em Palo Alto, Califórnia. Formou-se na Duke University e frequentou brevemente a pós-graduação na UC Berkeley sem concluir. É casado com Yael Shacham Shazeer e tem três filhos.