Quais modelos do Ollama suportam contexto de 128K?
Resposta rápida
Llama 3.3 8B suporta contexto de 128K no Ollama. Qwen 3 14B chega a 1M de tokens. Nota: executar o contexto completo aumenta drasticamente a VRAM — uma janela de 128K precisa de 3 a 4 vezes mais VRAM que a janela padrão de 4K.
- ▸Llama 3.3 8B: contexto de 128K, ~16 GB de VRAM com contexto completo
- ▸Qwen 3 14B: até 1M de tokens, 24+ GB de VRAM com contexto completo
- ▸Defina --num-ctx 4096 para uso normal e economize VRAM
Atualizado: 2 de junho de 2026
Pontos principais
- ✓A maioria dos modelos 7B do Ollama anuncia contexto de 128K, mas a qualidade se degrada acima de 32K tokens
- ✓Llama 3.3 8B e Qwen 3 14B são os dois modelos que oferecem qualidade confiável no máximo de 128K
- ✓Uma janela de contexto de 128K pode quase triplicar o uso de VRAM — um modelo 7B Q4 precisa de ~15 GB com 128K frente a ~5,5 GB no padrão
- ✓Defina <code>--num-ctx 4096</code> para tarefas cotidianas; expanda o contexto apenas quando necessário
Quais modelos realmente alcançam 128K
Em maio de 2026, a maioria dos modelos do Ollama anuncia contexto de 128K, mas poucos oferecem qualidade de saída útil nesse comprimento. O problema é o efeito "perdido no meio": modelos treinados em comprimentos típicos de documentos têm dificuldade em processar informações colocadas fundo em um contexto longo.
Dois modelos mantêm de forma confiável a qualidade no contexto completo de 128K no Ollama: Llama 3.3 8B (nativamente treinado a 128K) e Qwen 3 14B (até 1M de tokens, embora as restrições de VRAM tornem 128K o limite prático para o consumidor). Para a maioria dos outros modelos 7B, a qualidade de saída se degrada notavelmente acima de 32K tokens.
Se sua tarefa envolve documentos com mais de 20.000 palavras, comece com Llama 3.3 8B. Se precisar da melhor qualidade de contexto longo e tiver 12+ GB de VRAM, Qwen 3 14B é a melhor opção.
O custo de VRAM do contexto longo
Expandir a janela de contexto aumenta significativamente o uso de VRAM. O KV-cache, que armazena o estado de atenção para todos os tokens no contexto, pode usar tanta VRAM quanto os próprios pesos do modelo com contexto de 128K.
A tabela abaixo mostra como a VRAM do KV-cache escala para um modelo 7B em Q4_K_M. Esses números assumem modelos usando grouped query attention (GQA) — modelos sem GQA usam significativamente mais KV-cache.
Para economizar VRAM em tarefas cotidianas, defina --num-ctx 4096 ao executar o Ollama. Expanda para 32K ou 128K apenas quando sua tarefa específica exigir. Para o guia completo sobre LLMs locais de contexto longo, consulte o guia de LLMs locais de contexto longo.
| Comprimento de contexto | KV-Cache (7B) | VRAM total (7B Q4) |
|---|---|---|
| 4K (padrão) | ~0,5 GB | ~5,5 GB |
| 16K | ~1,5 GB | ~6,5 GB |
| 32K | ~3 GB | ~8 GB |
| 128K | ~10 GB | ~15 GB |
Respostas rápidas sobre os modelos de contexto longo
Como ativar o contexto de 128K no Ollama?▾
--num-ctx 131072 ao seu comando de execução: ollama run llama3.1:8b --num-ctx 131072. Sem essa opção, o Ollama usa por padrão 2048–4096 tokens independentemente da capacidade máxima do modelo.