TLDR;

OpenAI mostrou o chip de inferência "Jalapeno", que em testes com modelos open-weight alcançou até 104× de desempenho para reduzir a dependência de GPUs da NVIDIA. A iniciativa mira exclusivamente inferência (responder prompts) e tende a diminuir a necessidade da NVIDIA nessa etapa, mas o treinamento de modelos grandes provavelmente continuará dependendo de GPUs da NVIDIA por enquanto. Se a compra da Hugging Face pela NVIDIA se confirmar, a empresa passaria a dominar a infraestrutura para modelos open-weight, enquanto a adoção crescente de modelos abertos e novos chips da Apple, Google e Meta mudam a dinâmica do mercado de compute.

Resumo

Há uma narrativa crescente sobre modelos de pesos abertos versus fechados: OpenAI mostrou resultados do chip de inferência Jalapeño, que alcança até 104x de desempenho em modelos públicos, sugerindo redução da dependência da Nvidia (treinamento ainda pode ficar com a Nvidia). Paralelamente, rumores dizem que a Nvidia concordou em comprar a Hugging Face, o “GitHub” de modelos, o que a posicionaria como provedora dominante de computação para modelos abertos, especialmente se a adoção desses modelos continuar a crescer. Dados da Verscell indicam que o uso de tokens passou de 28,4% para 62% em modelos abertos, embora a maioria das requisições ainda aponte para modelos fechados, já que os modelos abertos tendem a consumir mais tokens. Meta, Google e OpenAI também desenvolvem chips próprios, enquanto a Apple lançou os M6 e M5 Ultra para computação de IA local, viabilizando rodar modelos grandes em desktops. Tudo isso mostra um deslocamento na indústria: maior competividade entre soluções proprietárias e abertas, aposta da Nvidia em open source via infraestrutura, e crescimento de modelos abertos de alto desempenho como GLM 5.3 Flash, aproximando a capacidade dos modelos públicos aos fechados. O resultado é uma indústria mais fragmentada e competitiva, com impacto em preços, privacidade, inovação.