Startup PrismML roda modelo de IA de 27 bilhões de parâmetros no iPhone

A startup PrismML, apoiada pela firma de venture capital Khosla, alcançou um marco técnico ao executar o modelo de linguagem Qwen 3.6, de 27 bilhões de parâmetros, diretamente em um iPhone 17 Pro. O feito representa um salto significativo na miniaturização de modelos de IA, superando a capacidade dos sistemas atuais que operam em dispositivos móveis com apenas alguns bilhões de parâmetros. A Apple iniciou conversas com a startup como parte de sua estratégia para aprimorar o processamento local de inteligência artificial em seus aparelhos. A tecnologia é vista como fundamental para o setor, pois permite que modelos mais poderosos funcionem sem a necessidade de conexão constante com servidores em nuvem, o que reduz custos operacionais e reforça a privacidade dos dados dos usuários ao manter o processamento inteiramente no hardware do dispositivo.