TLDR;

A Apple perdeu a corrida da IA ao pagar um bilhão de dólares por ano ao Google para a Siri funcionar enquanto desistia de competir em modelos.. A Apple agora foca em hardware estratégico como o Mac Studio com 512 GB de memória unificada para rodar IA local de forma eficiente.. A Apple promoveu um engenheiro de hardware a CEO para priorizar infraestrutura otimizada para modelos locais graças à arquitetura de memória unificada.

Resumo

A Apple perdeu feio a corrida da IA, gastando cerca de 1 bilhão de dólares por ano com o Google para manter a Siri funcionando, mas mudou de estratégia e agora se posiciona como líder em hardware otimizado para rodar modelos de IA localmente. Recentemente, lançou o Mac Studio com até 512 GB de memória unificada e banda de 1,2 TB/s por R$ 5.499, destacando no marketing que o equipamento é 13,5 vezes mais rápido no processamento de prompts de LLM no LM Studio comparado ao Mac Mini M1. Com a saída de executivos de software e a promoção de John Ternus, engenheiro de hardware com 25 anos na empresa, a companhia reforça o foco em infraestrutura. Essa vantagem vem de longe: sócia fundadora da ARM em 1990, aquisição de empresas de chips em 2008 e introdução do Neural Engine em 2017. A arquitetura de memória unificada, antes criticada, agora se mostra ideal para inferência local, pois a velocidade é limitada pela banda de memória dividida pelo tamanho do modelo, permitindo rodar LLMs grandes de forma eficiente e econômica em desktops.