Google lança chips TPU 8tx e 8i Max para competir com Nvidia
O Google anunciou dois novos processadores próprios de inteligência artificial para fortalecer o Google Cloud e reduzir a dependência da Nvidia.
Pontos principais
- O TPU 8tx usa o mesmo silício do TPU 8t, com hosts AMD EPYC de 5ª geração, e mantém dados e pesos de modelo isolados em hardware durante a execução.
- Segundo a Google, o TPU 8tx tem latência até 2 vezes menor que a do TPU 8t.
- Um mesmo sistema TPU 8tx pode ajustar modelos com dados privados, destilá-los e treiná-los por aprendizado por reforço, sem migrar dados sensíveis entre clusters.
- O TPU 8i Max junta dois chips TPU 8i em um pacote e dobra computação, SRAM e largura de banda de HBM em relação ao TPU 8i, cabendo o dobro de silício no mesmo rack.
- Os TPU 8t e 8i, anunciados em abril, têm até 2,7 vezes mais desempenho de treinamento e custo-desempenho de inferência 80% melhor que a geração anterior, segundo a Google.
- A Google não informou preço nem data de disponibilidade do TPU 8tx e do TPU 8i Max.
- A Google afirma que quase 100 clientes usam TPUs, entre eles laboratórios de IA de fronteira, empresas de trading, varejistas e universidades.
- A Google abriu em outubro o código do TorchTPU e agora abre o do XLA Serving Engine e o do TPU Sync, que, segundo a empresa, corta mais de 90% da latência de transferência de cache KV e do tempo até o primeiro token.
- O Google Cloud registrou receita de US$ 30,71 bilhões no trimestre encerrado em setembro.
- O movimento acompanha uma tendência de gigantes da tecnologia em desenvolver semicondutores próprios.
- A estratégia visa ampliar a oferta de serviços de IA para empresas e órgãos públicos.
O Google anunciou duas novas configurações de seus processadores próprios de inteligência artificial, o TPU 8tx e o TPU 8i Max, que se somam ao TPU 8t e ao TPU 8i na oitava geração de TPUs. A Google projetou o 8tx para empresas reguladas e governos que processam dados sensíveis, com foco em inferência confidencial e treinamento em pequena escala. Já o 8i Max foi pensado para janelas de contexto massivas, em que dezenas de agentes de IA trabalham sobre uma mesma base de código ou sobre horas de vídeo.
Com a expansão, a companhia busca fortalecer o Google Cloud e aumentar sua competitividade frente à Nvidia, que domina o mercado de hardware para IA. A linha de chips próprios também atende clientes que precisam de configurações específicas, em vez de depender de um único tipo de processador para todas as aplicações.
Fonte primária
Tópicos relacionados
Cobertura da mídia
Leia também
Google anuncia novos chips TPU 8tx e TPU 8i Max para 2027
9 nov, 10:01
Google amplia oferta de chips de IA e fecha parcerias com Oracle
28 out, 10:45
OpenAI planeja usar chips TPU do Google para treinar modelos de IA
27 out, 21:31
Google desenvolve chip 'Frozen v2' para otimizar modelos Gemini
20 jul, 10:45
Google adota estratégia da Nvidia para expandir mercado de chips de IA
18 jun, 22:45
Comentários (0)
Seja o primeiro a comentar.