Apple revela Siri AI na WWDC com modelo na nuvem em GPUs Nvidia dentro do Google Cloud
AFM Cloud Pro roda em Blackwell B200 com computação confidencial; Siri AI fica de fora da UE e da China no lançamento.
Pontos principais
- AFM Cloud Pro é o primeiro uso de chips Nvidia pela Apple em cerca de uma década
- Treinamento feito em TPUs do Google; inferência migrada para GPUs Nvidia Blackwell B200
- Computação confidencial da Nvidia criptografa dados durante o processamento no chip
- Siri no dispositivo combina modelo denso de 3B parâmetros com MoE de ~20B (1-4B ativos)
- Configuração mais pesada exige iPhone 17 Pro, iPhone Air, iPad M4+ ou Mac M3+ com pelo menos 12 GB de RAM
- Siri AI não chega à União Europeia nem à China no lançamento; Apple culpou a DMA europeia
- Apple abriu o Foundation Models framework e um novo Core AI framework a desenvolvedores
- Apple Intelligence ganha agente que troca automaticamente senhas comprometidas e as guarda no app Passwords
No segundo dia da WWDC, a Apple detalhou o stack por trás da nova Siri. O Apple Foundation Model Cloud Pro, o modelo mais potente da empresa, vai rodar em GPUs Nvidia Blackwell B200 dentro do Google Cloud, marcando o primeiro uso de chips Nvidia pela companhia em cerca de uma década. O treinamento é feito em TPUs do Google, enquanto a inferência migra para as GPUs Nvidia com o recurso de computação confidencial, que criptografa os dados enquanto eles são processados no chip.
No dispositivo, a Siri combina um modelo denso de 3 bilhões de parâmetros com um modelo do tipo mistura de especialistas de cerca de 20 bilhões, dos quais 1 a 4 bilhões são ativados a cada requisição por roteamento inicial. A configuração mais pesada exige iPhone 17 Pro, iPhone Air, iPad com chip M4 ou superior ou Mac com M3 ou superior, todos com pelo menos 12 GB de memória. A nova Siri AI não chega à União Europeia nem à China no lançamento: a Apple culpou a Lei dos Mercados Digitais (DMA) europeia em uma página inteira de anúncio e descreveu o atraso chinês apenas em nota de rodapé.
A empresa também abriu a desenvolvedores o Foundation Models framework e um novo Core AI framework, e somou ao Apple Intelligence um agente que troca automaticamente senhas de contas comprometidas e as guarda no app Passwords.
Comentários
Carregando comentários...
