IA local: modelos abertos para cada configuração

👁 120 leituras

IA local é o uso de modelos abertos de linguagem, imagem, vídeo e voz no próprio computador, sem conta, assinatura ou envio de dados para a nuvem. Reuni aqui meus testes na RTX 4090, uma tabela do que roda em cada configuração (de 24 GB até apenas o processador), um ranking dos melhores modelos abertos de outubro de 2026 e o calendário da série “Modelo da semana”, em que executo um modelo novo a cada semana. Edição mais recente: Gemma 4 31B na RTX 4090. Entre os novos modelos abertos de vídeo de outubro estão o MAGI-2 Preview, da Sand.ai (Apache-2.0, mas exige 8 placas de 80 GB), e o Agnes-Video-2.0-MoE (pesos de aproximadamente 57,5 GB).

Meus testes e guias

017 modelos locais de IA: Gemma 4 12B na RTX 4090Testei sete modelos locais na RTX 4090 em tarefas de escrita. Gemma 4 12B liderou, mas ficou mais de 20 pontos atrás do Claude Opus 5.5.Leia →02Z-Image Turbo: teste local e comparação com Qwen-Image 2.1Teste local do Z-Image Turbo em oito prompts: veja a velocidade, o uso de VRAM e a comparação com o Qwen-Image 2.1.Leia →03Wan 2.2 local: gere vídeos com IA no seu PCTestei o Wan 2.2 TI2V 5B no ComfyUI com uma RTX 4090: veja o tempo de geração, o uso de VRAM e quatro vídeos sem edição.Leia →

Quais modelos rodam em cada configuração

O mais importante é a memória da placa de vídeo (VRAM) ou, no Mac, a memória unificada. A seguir, detalho cinco configurações típicas. Minha regra: só informo velocidades medidas por mim ou por fontes com data. Tenho uma única placa: RTX 4090 de 24 GB. Para placas menores, fiz simulações: limitei no Ollama o número de camadas enviadas à GPU para que o modelo ocupasse no máximo o espaço livre em placas de 8, 12 ou 16 GB (capacidade menos 1 GB reservado para o sistema); o processador calculou o restante. Uma placa real de 8 ou 12 GB tem memória mais lenta que a RTX 4090, por isso esses números devem ser considerados um limite superior. Quando não tenho medição nem fonte, digo claramente: “não medi”.

RTX 4090 de 24 GB (também 3090 e 5090) - minhas medições

Texto: llama.cpp CUDA (26.09) e Ollama 0.40 (Gemma 31B, 8/10), contexto de 8 mil a 32 mil tokens. Imagens: ComfyUI, 1344×768, tempo sem contar o primeiro carregamento. Voz: teste de 8/10 descrito no comparativo de sintetizadores de voz. A Gemma 4 31B ocupa quase toda a placa: não dá para executar um gerador de imagens junto com ela.

Placa de 12 GB (RTX 3060, 4070) - simulações e fontes

Placa de 8 GB (RTX 4060, 3070) - simulações e fontes

Com 8 GB, escolha um modelo que caiba por completo. Na simulação, o Bielik 11B na versão Q8, dividido entre a placa e o processador, caiu para 8 tok/s; usando toda a memória da placa, chegava a 70.

Mac com chip M (16, 32 ou 64 GB) - fontes, sem medições minhas

Não tenho um Mac para testes. A memória do Mac é compartilhada pelo sistema e pelos gráficos, então sempre é preciso reservar uma parte para o macOS e os programas. A tabela abaixo mostra os tamanhos dos arquivos dos meus testes, que correspondem ao mínimo de memória para o modelo, e a velocidade publicada na tabela do llama.cpp para o mesmo modelo pequeno (Llama 2 7B Q4_0).

Apenas o processador, sem placa de vídeo

O mesmo modelo em diferentes configurações

Para comparar o hardware de forma justa, usei uma única tabela: resultados do llama.cpp para o mesmo modelo, Llama 2 7B na quantização Q4_0 (geração de 128 tokens). Os resultados das placas Nvidia vêm da discussão #15013 (com flash attention); os dos Macs, da discussão #4167. A velocidade aumenta junto com a largura de banda da memória, não com o preço da placa.

Outra coisa que aparece nas minhas medições: quando o modelo não cabe na placa, a velocidade não cai apenas alguns pontos percentuais, mas cerca de uma ordem de grandeza. Estes são os resultados do mesmo Qwen 3.8 27B nas simulações de placas menores:

Expliquei os cálculos de memória (pesos, quantização e memória de contexto) no artigo quanta VRAM um modelo local exige. Para configurações completas de computador, consulte o guia qual computador escolher para IA local.

Como começar em 10 minutos

Os 10 minutos são para instalação e primeira execução. O tempo de download do modelo depende da conexão: a Gemma 4 31B (18 GB) levou 40 minutos para baixar; a Gemma 4 12B (7 GB), menor, leva alguns minutos em uma conexão rápida.

Ollama - texto pelo terminal

1. Baixe o instalador em ollama.com e instale o programa (Windows, macOS ou Linux).
2. Abra o PowerShell ou o Terminal e digite: ollama run gemma4:12b. O modelo será baixado e o chat abrirá em seguida.
3. Confira se tudo está na placa de vídeo: ollama ps. Na coluna PROCESSOR, deve aparecer “100% GPU”.
4. Para ver a velocidade, adicione a opção --verbose e procure a linha “eval rate”.

Veja o guia completo, com os problemas mais comuns: Ollama na RTX 4090.

LM Studio - texto em uma janela

1. Baixe o LM Studio em lmstudio.ai e instale. Não é necessário ter uma conta.
2. Na aba de busca, digite o nome do modelo, por exemplo, “gemma 4 12b”, e escolha a versão Q4. O programa sugere o que cabe na sua placa.
3. Clique em “Load” e converse pelo chat. Tudo fica no computador.

Confira o passo a passo do LM Studio e como conectá-lo a ferramentas: LM Studio e MCP.

ComfyUI - imagens e vídeos

1. Execute meu script instaluj-comfyui.ps1: ele instala o ComfyUI com uma versão do PyTorch adequada à placa e baixa o Z-Image Turbo.
2. Abra no navegador o endereço exibido pelo ComfyUI (por padrão, 127.0.0.1:8188).
3. Escolha o modelo Z-Image Turbo, digite o prompt e clique em “Run”. A primeira imagem demora mais porque o modelo é carregado do disco.

Veja a descrição completa e os requisitos: ComfyUI no Windows.

Melhores modelos abertos - outubro de 2026

O ranking combina duas fontes: as tabelas independentes da Artificial Analysis (AA) e meus testes em polonês. A AA avalia principalmente em inglês; por isso, meus resultados são mais relevantes para o polonês.

Texto

AA: Intelligence Index v4.3.2, tabela de modelos com pesos abertos, consultada em 9/10/2026. Os primeiros colocados são modelos para servidores; entre os seis primeiros, só o Qwen 3.8 27B roda em uma única placa para consumidores. Nos meus testes, a Gemma 4 (31B e 12B) foi a que melhor escreveu em polonês em um computador comum.

Imagem

Dados da tabela da AA de 2/10/2026. Veja o ranking completo dos melhores modelos abertos para imagens, com 19 modelos e suas licenças.

Voz

Testei os sintetizadores em 8/10/2026 usando o mesmo texto em polonês (o melhor serviço na nuvem, Eleven v4, marcou 15/15). A tabela de transcrição de voz da AA, consultada em 9/10/2026, calcula os erros em gravações em inglês. Segundo a ficha do modelo, o Voxtral Small não oferece suporte ao polonês e precisa de cerca de 55 GB de memória de vídeo. Para gravações em polonês em um computador doméstico, resta o Whisper.

Série “Modelo da semana” - edições e calendário

A cada semana, escolho um modelo aberto, executo-o em uma RTX 4090 e meço sempre os mesmos itens: download, carregamento, tok/s, memória da placa com contextos de 8 mil e 32 mil tokens, licença e as mesmas 5 tarefas em polonês (nota de 0 a 10). Assim, é possível comparar as edições. Você também encontra todas elas pela tag Modelo da semana.

A ordem pode mudar se surgir algo mais importante: um novo Bielik, da SpeakLeash, terá prioridade.

Lançamentos de pesos anunciados

• 15 de outubro de 2026 - StepFun Step 5. O fabricante anunciou os pesos abertos de um modelo disponível por API desde 20/09. São 600 bilhões de parâmetros (27 bilhões ativos), portanto ele não cabe em uma única placa para consumidores. A licença ainda não foi anunciada.
• Hy Image 3.5 (Tencent) - por enquanto, disponível apenas como prévia por API; os pesos não foram publicados (situação em 8/10). Testei a versão por API: HY Image 3.5 Preview.
• Ling 3.1 Flash - ainda não há pesos abertos (situação em 8/10).

Programas para executar modelos

• LM Studio - programa com interface gráfica e buscador de modelos. É a forma mais simples de começar com modelos de texto.
• Ollama - modelos de texto pelo terminal e um servidor de API simples. É bastante usado em automações.
• llama.cpp - motor usado pelos dois programas anteriores. Oferece controle completo e chat no navegador. Em placas Nvidia, escolha a versão CUDA: nos meus testes, Vulkan foi 1,9-2,6 vezes mais lento.
• ComfyUI - para imagens e vídeos. Tem uma interface de blocos, modelos prontos para novos modelos e controle por scripts.

Scripts prontos para baixar

Preparei um script para cada guia e testei todos em 26/09/2026 no Windows 11 com uma RTX 4090. O código completo, com comentários, está nos artigos. A licença é MIT. Você também pode baixar os 5 scripts em um único arquivo ZIP (15 KB).

• instaluj-llama-cpp.ps1 (5 KB) - llama.cpp nas versões CUDA ou Vulkan, Gemma 4 12B e arquivo de inicialização. Descrição.
• instaluj-comfyui.ps1 (6 KB) - ComfyUI com PyTorch adequado à placa e os modelos Z-Image Turbo e Wan 2.2. Descrição.
• generuj-obrazy.py (6 KB) - gera lotes de imagens a partir de uma lista de prompts e registra o tempo. Descrição.
• generuj-wideo.py (6 KB) - gera um clipe com Wan 2.2 diretamente em MP4. Descrição.
• zmierz-model.py (6 KB) - mede velocidade, memória da placa e consumo de energia do modelo. Descrição.

Mais sobre modelos locais

01Gemma 4 12B local ou via API: quanto custa?Medições em uma RTX 4090 comparam o custo de energia de modelos locais ao de APIs. O artigo apresenta as medições do teste original.Leia →

Perguntas frequentes

Qual é o melhor modelo local de IA em polonês?

Para uma placa de 24 GB, a Gemma 4 31B (9,5/10 nas minhas 5 tarefas, 42 tok/s). Para placas menores, a Gemma 4 12B, que venceu meu teste mais amplo de escrita em 26/09/2026 (72,3 pontos), pouco à frente do Qwen 3.8 27B (72,2). O Bielik 11B v3 tem o polonês mais correto e conhece melhor a realidade da Polônia, mas segue instruções com menos precisão.

Qual modelo de IA roda em uma placa de 8 GB?

A Gemma 4 E4B cabe por completo (5,4-6,1 GB). A Gemma 4 12B na versão Q4 quase cabe: na minha simulação de 8 GB, 45 das 48 camadas ficaram na placa e o resultado foi 48 tok/s. Modelos maiores, divididos entre placa e processador, caem para alguns tokens por segundo.

A IA local funciona no Mac?

Sim. Ollama, LM Studio e ComfyUI têm versões para macOS. Não fiz medições em um Mac; segundo a tabela do llama.cpp, um modelo pequeno de 7B gera cerca de 24 tok/s no M4, 51 no M4 Pro e 83 no M4 Max. Em um Mac com 32 GB cabem modelos que ocuparam de 17 a 19 GB nos meus testes, como Qwen 3.8 27B e Gemma 4 31B.

Posso executar IA local sem placa de vídeo?

Modelos de texto pequenos e o sintetizador de voz Piper funcionam apenas com o processador. Não medi modelos de texto usando apenas o processador; quando 18 das 66 camadas do Qwen foram executadas nele, a velocidade caiu de 46 para 8,4 tok/s. Na prática, imagens e vídeos ficam lentos demais sem uma placa de vídeo.

A IA local funciona sem internet?

Sim. Depois de baixar o modelo, LM Studio, Ollama, llama.cpp e ComfyUI funcionam totalmente offline; prompts e arquivos não saem do computador.

O que é a série “Modelo da semana”?

A cada semana, executo um novo modelo aberto em uma RTX 4090 e meço os mesmos itens: velocidade, memória, carregamento, licença e 5 tarefas em polonês. A primeira edição é sobre a Gemma 4 31B; as próximas estão no calendário acima.

O StepFun Step 5 roda em um computador doméstico?

Não em uma única placa para consumidores. O modelo tem 600 bilhões de parâmetros, e os pesos foram anunciados para 15 de outubro de 2026. Mesmo muito comprimidos, precisam de centenas de gigabytes de memória. Saiba mais no guia sobre o StepFun Step 5.

// continue lendobasal-omni: modelo aberto de Remek Kinas lidera o JevBenchNotíciasWan AI: modelos de vídeo da Alibaba, do 2.2 ao 3.0GuiasDeepSeek aumenta preços de 2 modelos: V4 Flash em 168%, V4 Pro em 11%Notícias rápidas