Qwen3.6-27B na RTX 4090: qual versão cabe em 24 GB

👁 113 leituras

O Qwen3.6-27B voltou a aparecer em fóruns e listas de recomendação como assistente de programação para rodar em casa, e a pergunta que mais se repete é simples: cabe numa RTX 4090 com 24 GB? Cabe, com a quantização certa e contexto longo. Não medimos velocidade e não publicamos números de tokens por segundo; o que segue é a arquitetura, os benchmarks do fabricante e uma conta de memória feita a partir dos arquivos e da configuração oficial.

Não é lançamento de outubro

Primeiro, a data. O repositório Qwen/Qwen3.6-27B no Hugging Face foi criado em 21 de abril de 2026, e a última alteração de arquivo é de 24 de abril. O modelo está por aí há seis meses: já tem 754 quantizações da comunidade listadas no card e uma família própria de tags no Ollama. O que é novo é o uso: mais gente passou a adotá-lo como assistente de código local.

A licença é Apache 2.0, que permite uso comercial, modificação e redistribuição. São 27 bilhões de parâmetros (27,8 bilhões em BF16).

Denso, não MoE

O 27B é um modelo denso: todos os parâmetros trabalham em cada token. Na mesma família existe o Qwen3.6-35B-A3B, um MoE com cerca de 3 bilhões de parâmetros ativos de 35 bilhões. Esse pode ser mais rápido, mas precisa de mais memória para os pesos, o que numa placa de 24 GB pesa contra.

DeltaNet: por que o cache KV fica pequeno

A arquitetura tem 64 camadas organizadas em 16 blocos. Cada bloco tem três camadas Gated DeltaNet e uma camada de atenção comum. DeltaNet é uma forma de atenção linear: guarda um estado de tamanho fixo em vez de armazenar cada token lido. Na prática, só 16 das 64 camadas mantêm o cache KV que cresce com o contexto. É isso que torna o contexto longo viável numa placa de consumo.

O modelo lê texto, imagens e vídeo. O contexto nativo é de 262.144 tokens e pode chegar a 1,01 milhão com YaRN, mas a Qwen avisa que a extensão pode piorar os resultados em textos curtos. A recomendação oficial é usar pelo menos 128K de contexto para preservar o modo de raciocínio.

Benchmarks do fabricante

Os números abaixo são do card do modelo. Não vimos replicação independente.

Leitura: em programação com agentes, o 27B alcança o antecessor de 397B e empata com o Claude Opus 4.5 no Terminal-Bench. Só que o Opus 4.5 é de uma geração anterior; o atual Claude Opus 5.5 não está na tabela. Em conhecimento geral (MMLU-Pro) o salto sobre a versão 3.5 é praticamente nulo. Em código, fica muito à frente do Gemma 4 31B.

A conta da VRAM (nosso cálculo, não medição)

Partimos dos tamanhos reais dos arquivos GGUF do repositório unsloth/Qwen3.6-27B-GGUF, em GB decimais. A placa tem 24 GiB, o que dá cerca de 25,8 GB.

• Cache KV: 16 camadas de atenção completa, 4 cabeças KV, dimensão 256. Em FP16 isso dá 64 KiB por token: 2,15 GB em 32K, 8,59 GB em 128K e 17,18 GB nos 262K completos. Com q8_0 o valor cai mais ou menos pela metade: 1,14 / 4,56 / 9,13 GB.
• Estado fixo do DeltaNet: cerca de 0,15 GB.
• Reserva: 1,5 GB para driver, área de trabalho do Windows e buffers de cálculo. Isso é uma suposição nossa.
• Sobra útil: cerca de 24,3 GB.

Qual versão escolher

O módulo de visão (mmproj em F16) acrescenta 0,93 GB e só é necessário se você for mandar imagens ou capturas de tela.

Nossa recomendação

Q4_K_M ou UD-Q4_K_XL, com 128K de contexto e cache KV em q8_0. Essa combinação atende à recomendação da Qwen de contexto para o raciocínio e ainda deixa alguns GB livres. O Q5_K_M serve para tarefas mais curtas. O Q6_K significa abrir mão do contexto longo, ou seja, do trabalho de agente sobre um repositório inteiro.

Ajustes no Ollama e no llama.cpp

No Ollama, a tag padrão qwen3.6:27b ocupa 18-19 GB, e qwen3.6:27b-q4_K_M ocupa 17 GB. Para contexto longo, defina as variáveis de ambiente antes de iniciar o servidor:

OLLAMA_FLASH_ATTENTION=1
OLLAMA_KV_CACHE_TYPE=q8_0
OLLAMA_CONTEXT_LENGTH=131072

ollama run qwen3.6:27b-q4_K_M

No llama.cpp, os parâmetros equivalentes são estes:

llama-server -m Qwen3.6-27B-Q4_K_M.gguf -c 131072 -fa on -ctk q8_0 -ctv q8_0

Se você já roda modelos em casa, o caminho de instalação é o mesmo que descrevemos em basal Omni local com Ollama e llama.cpp, e outros testes estão na tag IA local.

Perguntas frequentes

Roda numa placa de 16 GB?

Só em variantes muito comprimidas. O Q3_K_M, com 13,59 GB, deixa pouco espaço para contexto. O UD-IQ2_M, com 10,85 GB, deixa mais, ao custo de qualidade.

Dá para rodar em BF16 completo?

Não numa única placa de consumo. A variante bf16 do Ollama tem 56 GB.

Qual a velocidade na RTX 4090?

Não medimos e não vamos chutar um número. A conta acima trata só de memória.

Preciso do módulo de visão?

Só se for enviar imagens ou capturas de tela. Para código em texto, dá para deixá-lo de fora e economizar 0,93 GB.

Fontes - consultadas em 1º de novembro de 2026

• Hugging Face: card do modelo Qwen3.6-27B (acesso em 01/11/2026)
• Hugging Face API: data do repositório, licença, parâmetros (acesso em 01/11/2026)
• Hugging Face: config.json do Qwen3.6-27B (acesso em 01/11/2026)
• Hugging Face: unsloth/Qwen3.6-27B-GGUF, tamanhos dos arquivos (acesso em 01/11/2026)
• Ollama: tags do qwen3.6 (acesso em 01/11/2026)
• Gigazine: Qwen3.6-27B (23/04/2026)

// continue lendoAutomatize posts nas redes sociais com IA: guia práticoGuiasAutomação com IA: como começar e qual ferramenta escolherGuiasGerador de vídeo com IA: ranking e preços em 2026Guias