Daily Journal
Daily Journal

Apple revela Siri AI na WWDC com modelo na nuvem em GPUs Nvidia dentro do Google Cloud

AFM Cloud Pro roda em Blackwell B200 com computação confidencial; Siri AI fica de fora da UE e da China no lançamento.

Daily Journal
||
09/06 às 09:00

Pontos principais

  • AFM Cloud Pro é o primeiro uso de chips Nvidia pela Apple em cerca de uma década
  • Treinamento feito em TPUs do Google; inferência migrada para GPUs Nvidia Blackwell B200
  • Computação confidencial da Nvidia criptografa dados durante o processamento no chip
  • Siri no dispositivo combina modelo denso de 3B parâmetros com MoE de ~20B (1-4B ativos)
  • Configuração mais pesada exige iPhone 17 Pro, iPhone Air, iPad M4+ ou Mac M3+ com pelo menos 12 GB de RAM
  • Siri AI não chega à União Europeia nem à China no lançamento; Apple culpou a DMA europeia
  • Apple abriu o Foundation Models framework e um novo Core AI framework a desenvolvedores
  • Apple Intelligence ganha agente que troca automaticamente senhas comprometidas e as guarda no app Passwords

No segundo dia da WWDC, a Apple detalhou o stack por trás da nova Siri. O Apple Foundation Model Cloud Pro, o modelo mais potente da empresa, vai rodar em GPUs Nvidia Blackwell B200 dentro do Google Cloud, marcando o primeiro uso de chips Nvidia pela companhia em cerca de uma década. O treinamento é feito em TPUs do Google, enquanto a inferência migra para as GPUs Nvidia com o recurso de computação confidencial, que criptografa os dados enquanto eles são processados no chip.

No dispositivo, a Siri combina um modelo denso de 3 bilhões de parâmetros com um modelo do tipo mistura de especialistas de cerca de 20 bilhões, dos quais 1 a 4 bilhões são ativados a cada requisição por roteamento inicial. A configuração mais pesada exige iPhone 17 Pro, iPhone Air, iPad com chip M4 ou superior ou Mac com M3 ou superior, todos com pelo menos 12 GB de memória. A nova Siri AI não chega à União Europeia nem à China no lançamento: a Apple culpou a Lei dos Mercados Digitais (DMA) europeia em uma página inteira de anúncio e descreveu o atraso chinês apenas em nota de rodapé.

A empresa também abriu a desenvolvedores o Foundation Models framework e um novo Core AI framework, e somou ao Apple Intelligence um agente que troca automaticamente senhas de contas comprometidas e as guarda no app Passwords.

Comentários

Carregando comentários...