ما نماذج Ollama التي تدعم سياق 128K؟
إجابة سريعة
يدعم Llama 3.3 8B سياقاً بحجم 128K في Ollama. يصل Qwen 3 14B إلى مليون رمز. ملاحظة: تشغيل السياق الكامل يزيد VRAM بشكل كبير — نافذة بحجم 128K تحتاج إلى 3 إلى 4 أضعاف الـ VRAM مقارنةً بالنافذة الافتراضية البالغة 4K.
- ▸Llama 3.3 8B: سياق 128K، حوالي 16 GB من VRAM مع السياق الكامل
- ▸Qwen 3 14B: حتى مليون رمز، أكثر من 24 GB من VRAM مع السياق الكامل
- ▸اضبط --num-ctx 4096 للاستخدام العادي وحافظ على VRAM
تحديث: ٢٠ يونيو ٢٠٢٦
النقاط الرئيسية
- ✓معظم نماذج 7B في Ollama تُعلن عن سياق 128K لكن جودتها تتراجع فوق 32K رمز
- ✓Llama 3.3 8B وQwen 3 14B هما النموذجان اللذان يوفران جودة موثوقة عند الحد الأقصى 128K
- ✓نافذة سياق 128K قد تضاعف استخدام VRAM تقريباً ثلاث مرات — نموذج 7B بـ Q4 يحتاج حوالي 15 GB مع 128K مقابل حوالي 5.5 GB بالقيمة الافتراضية
- ✓اضبط <code>--num-ctx 4096</code> للمهام اليومية؛ وسّع السياق فقط عند الحاجة
ما النماذج التي تبلغ فعلاً 128K
في مايو 2026، تُعلن معظم نماذج Ollama عن سياق 128K، لكن قلة منها يوفر جودة مخرجات مفيدة عند هذا الطول. المشكلة هي تأثير "الضياع في المنتصف": النماذج المدربة على أطوال مستند نموذجية تجد صعوبة في الانتباه إلى المعلومات الموجودة في عمق السياق الطويل.
نموذجان يحافظان بشكل موثوق على الجودة مع السياق الكامل 128K في Ollama: Llama 3.3 8B (مدرب بشكل أصلي على 128K) وQwen 3 14B (حتى مليون رمز، وإن كانت قيود VRAM تجعل 128K هو الحد العملي للمستهلك). لمعظم النماذج الأخرى 7B، تتراجع جودة المخرجات بشكل ملحوظ فوق 32K رمز.
إذا كانت مهمتك تتضمن مستندات تزيد عن 20,000 كلمة، ابدأ بـ Llama 3.3 8B. إذا كنت بحاجة إلى أعلى جودة للسياق الطويل ولديك 12 GB أو أكثر من VRAM، فـ Qwen 3 14B هو الخيار الأفضل.
تكلفة VRAM للسياق الطويل
توسيع نافذة السياق يزيد استخدام VRAM بشكل كبير. ذاكرة KV-cache، التي تخزن حالة الانتباه لجميع الرموز في السياق، يمكن أن تضيف قدراً من VRAM يعادل أوزان النموذج نفسها مع سياق 128K.
يوضح الجدول أدناه كيف يتوسع VRAM لـ KV-cache لنموذج 7B بـ Q4_K_M. تفترض هذه الأرقام نماذج تستخدم grouped query attention (GQA) — النماذج بدون GQA تستخدم KV-cache أكبر بكثير.
لتوفير VRAM في المهام اليومية، اضبط --num-ctx 4096 عند تشغيل Ollama. وسّع إلى 32K أو 128K فقط عند الحاجة لمهمة معينة. للدليل الكامل حول LLM محلية بسياق طويل، بما في ذلك اختيار النماذج وتقسيم RAM، راجع دليل LLM المحلية بسياق طويل.
| طول السياق | KV-Cache (7B) | إجمالي VRAM (7B Q4) |
|---|---|---|
| 4K (افتراضي) | ~0.5 GB | ~5.5 GB |
| 16K | ~1.5 GB | ~6.5 GB |
| 32K | ~3 GB | ~8 GB |
| 128K | ~10 GB | ~15 GB |
إجابات سريعة حول نماذج السياق الطويل
كيف أفعّل سياق 128K في Ollama؟▾
--num-ctx 131072 إلى أمر التشغيل: ollama run llama3.1:8b --num-ctx 131072. بدون هذا الخيار، يستخدم Ollama افتراضياً بين 2048 و4096 رمزاً بغض النظر عن الحد الأقصى للنموذج.