RAM também deve determinar suporte à Apple Intelligence, não apenas CPU e Neural Engine

Na última segunda-feira (6/10), durante um keynote de abertura da WWDC24foi finalmente apresentado a Inteligência da Applealém das novas versões dos sistemas da empresa. Conforme já divulgadoa nova ferramenta funcionará apenas com os iPhones 15 Pro e 15 Pro Max e modelos posteriores, bem como com Macs e iPads com o chip M1 ou mais recente.

O analista Ming-Chi Kuo trouxe hoje possível explicação para essa indisponibilidade da IA ​​em alguns dispositivos e chips. Considerando que o iPhone 15 — com o chip A16 Bionic — não tem suporte à novidade, mas Macs e iPads com o M1 têm, sua conclusão foi de que a compatibilidade com o processamento local de pedidos à AI seria determinada pela quantidade de RAM dos aparelhos, e não apenas pelo poder computacional, medido em TOPOS .

O M1 tem, lembra Kuo, uma capacidade de processamento de 11 TOPS, enquanto a do A16 Bionic é de 17 TOPS. Os iPhones 15/15 Plus e 14 Pro/14 Pro Max, contudo, têm apenas 6 GB de RAMenquanto os dispositivos com M1 têm ao menos 8 GB de RAM. A partir disso, o analista concluiu que os recursos da IA ​​processados ​​no dispositivo exigiam cerca de 2GB de RAM para funcionar sem comprometer o restante do sistema.

Analisando o consumo de RAM sob outra ótica, a IA usa um Grande Modelo de Linguagem (LLM, na sigla em inglês) do tipo 3B. Após a detalhamento — que utiliza uma configuração mista de 2 bits e 4 bits —, algo entre 700MB e 1,5GB de RAM precisa ser reservado a todo momento para rodar a IA no dispositivo.

Kuo afirmou que, para que as aplicações de inteligência artificial existentes nos aparelhos sejam de fato melhoradas, é necessário usar um LLM no mínimo do tipo 3B que funciona no próprio dispositivo. Desse modo, as especificações de RAM são determinadas pelo método de especificações do modelo de IA.

Um ponto interessante trazido pelo analista é que a Apple poderá ter vantagens sobre os computadores da linha Copiloto+ PClançado em parceria com a Microsoft. A desenvolvedora do Windows acredita que o principal projeto de um PC de IA é ter 40 TOPS de poder computacional. Para a Maçã, porém, 11 TOPS são suficientes para que a Apple Intelligence funcione em integração com a nuvem.

Assim, Kuo afirmou que os consumidores poderão achar confuso o processo de compra de PCs com a IA da Microsoft, por terem de calcular se eles chegam aos 40 TOPS de poder de processamento, enquanto a Apple já diz diretamente quais modelos suportam a IA. Para além da questão de se as ferramentas de IA suprem as necessidades dos usuários, a Maçã teria uma vantagem de venda de início.

No futuro, a gigante de Cupertino deverá atualizar a IA — muito provavelmente para um LLM 7B —, exigindo mais RAM para operar. Para o analista, a empresa poderá utilizar esse ponto para aumentar as diferenciações entre modelos topos de linha e de entrada dos dispositivos.

Também será necessário que a experiência da Apple Intelligence seja tão boa quanto a empresa afirma ser, na medida em que o Google Gêmeospor exemplo, apresenta diferenças em relação ao que é anunciado, enquanto os recursos de IA da Samsung tem capacidades limitadas e os dispositivos da linha Copilot+ PC confunde os consumidores.

Na análise de Kuo, a Apple definiu com sucesso o que é inteligência artificial no dispositivo, de modo que os usuários compreenderam os recursos e pontos de venda de IA dos dispositivos da Maçã. Isso deverá acelerar a imitação por parte dos concorrentes e a tentativa de alcançar o gigante de Cupertino, acelerando o crescimento do setor.