TLDR;

Local AI já alcançou um nível em que pode implementar e editar recursos em codebases reais, mostrando-se capaz de realizar tarefas práticas de TypeScript e Rust com qualidade suficiente para passar checagens e funcionar. O teste usou Qwen-3-72B (MoE quantizado) e Qwen-3.6-27B comparados ao Opus 4.7, e ambos os modelos locais conseguiram implementar corretamente o modo de highlighter, embora com diferenças na modelagem arquitetural do recurso. O experimento foi feito em máquina de alto desempenho (Ryzen Threadripper 9980X, GPU AMD R9 700 com 32 GB VRAM, 128 GB RAM, ROCm, Ubuntu 26.04) rodando modelos quantizados e llama.cpp para offload, indicando que hardware robusto facilita o uso de IA local.

Resumo

Nosso autor explica que, embora antes os modelos locais de IA fossem ruins em programar, recentemente eles melhoraram e já conseguem trabalhar em bases de código reais (TypeScript e Rust) usadas em produção. Ele argumenta que, apesar de modelos frontier em nuvem (por exemplo Opus) serem frequentemente melhores e mais baratos graças ao subsídio de empresas como OpenAI/Anthropic, muitas equipes não podem usar serviços na nuvem por razões de segurança, privacidade ou compliance (ITAR, HIPAA, políticas internas), tornando os modelos locais necessários. Para testar, usou Qwen-3-72B (modelo MoE 80B quantizado, ~3B ativos por token), Qwen-3.6-27B (27B quantizado) e como referência Opus 4.7, rodando em máquina otimizada com AMD Threadripper 9980X, GPU Radeon AI Pro R9 700 (32 GB VRAM), ROCm, 128 GB de RAM e Ubuntu 26.04. Empregou llama.cpp para offload e GGUF quantizado; o 27B coube inteiramente na GPU, o 80B precisou de offload. Em cada repositório fez duas tarefas (uma simples e outra complexa). No teste em Excalidraw ambos passaram checagem TypeScript e implementaram um modo “marcador”, mas Opus integrou o recurso no modelo de dados corretamente enquanto Qwen-3.6 aplicou apenas propriedades visuais, mostrando diferença de qualidade de código e ressalta o potencial prático dos modelos locais modernos.