ما هو طول السياق ولماذا يهم نماذج LLM المحلية؟
طول السياق هو أقصى عدد من الرموز يستطيع النموذج استيعابه في طلب واحد: موجّهك والمستندات والمحادثة حتى تلك اللحظة والإجابة التي يكتبها، مجتمعةً. يعادل الرمز الواحد نحو 0.75 كلمة إنجليزية، فتكون 128K رمز نحو 100,000 كلمة و256K رمز نحو 200,000 كلمة.
النافذة المعلنة هي أقصى ما تدعمه بنية النموذج. أما النافذة القابلة للاستخدام فهي الطول الذي تبقى عنده الإجابات دقيقة لمهمتك، وهي أقصر.
تهم النوافذ الطويلة قواعد الشيفرة الكاملة والعقود والنصوص المفرغة الطويلة وفصول الكتب وجلسات الوكلاء التي تتراكم فيها مخرجات الأدوات. توصي وثائق Ollama بما لا يقل عن 64,000 رمز للوكلاء والبحث في الويب وأدوات البرمجة.
ثلاثة أمور تحدد الحد على جهازك: نافذة النموذج، والذاكرة التي يحتاجها KV cache عند ذلك الطول، ومدى موثوقية استخدام النموذج للنص عند ذلك الطول. تتناول الأقسام التالية كلاً منها بالتتابع.
أي نماذج LLM المحلية تدعم أكثر من 128K رمز في عام 2026؟
عدة نماذج: تُدرج مكتبة Ollama نوافذ 256K لنماذج Qwen3.5 وQwen3.8 وGemma 4 (من 12B فما فوق)، وسياق 1M ل NVIDIA Nemotron 3 Nano 30B، وسياق 10M ل Llama 4 Scout. أما النماذج الصادرة قبل 2026 فتتوقف في الغالب عند 128K.
يعرض الجدول النافذة المدرجة في بطاقة النموذج أو مكتبة Ollama. توسيع السياق، مثل YaRN، خيار موثق من الجهة المطورة ويحتاج إلى إعداد وذاكرة إضافيين.
يُدرج Llama 4 Scout سياق 10M رمز، لكن بطاقته تنشر اختبارات السياق الطويل عند نافذة 128K، وحجم التنزيل في Ollama 67 GB. ويُدرج Llama 4 Maverick سياق 1M لكن تنزيله 245 GB، فيحتاج إلى عتاد خوادم.
قد تختلف وسوم Ollama في حجم النافذة: يُدرج qwen3:8b وqwen3:14b سياق 40K، بينما يُدرج qwen3:4b وqwen3:30b سياق 256K. اقرأ قيمة السياق في صفحة النموذج على Ollama قبل أن تخطط.
النموذج | النافذة المدرجة | سياق أطول | وسم Ollama |
|---|---|---|---|
| Nemotron 3 Nano 30B-A3B | 1M (الافتراضي 256K) | — | ollama run nemotron-3-nano:30b |
| Qwen3.8 27B | 256K | حتى 1M (YaRN) | ollama run qwen3.8:27b |
| Qwen3.5 9B / 27B | 256K | حتى 1.01M (YaRN) | ollama run qwen3.5:9b |
| Qwen3 30B-A3B-2507 | 256K | 1M (DCA، نحو 240 GB GPU) | ollama run qwen3:30b |
| Gemma 4 12B / 26B / 31B | 256K | — | ollama run gemma4:26b |
| Gemma 4 E2B / E4B | 128K | — | ollama run gemma4:e4b |
| Llama 4 Scout 109B | 10M مُدرج | اختبارات عند 128K | ollama run llama4:16x17b |
| Mistral Small 3.2 24B | 128K | — | ollama run mistral-small3.2 |
| gpt-oss 20B | 128K | — | ollama run gpt-oss:20b |
| Llama 3.1 8B | 128K | — | ollama run llama3.1:8b |
| Qwen3 8B / 14B | 40K | — | ollama run qwen3:14b |
كم ذاكرة يحتاج السياق الطويل؟
ذاكرة السياق الطويل هي أوزان النموذج زائد KV cache، ويعتمد KV cache على البنية وليس على النافذة وحدها. يخزن KV cache مفاتيح الانتباه وقيمه لكل رمز في السياق، ويُخصَّص فوق الأوزان.
بايتات KV لكل رمز = 2 (المفاتيح والقيم) × طبقات الانتباه الكامل × رؤوس KV × بُعد الرأس × بايتات القيمة الواحدة (2 في cache الافتراضي f16). Llama 3.1 8B: 2 × 32 × 8 × 128 × 2 = 131,072 بايت (128 KiB) لكل رمز، أي 16 GiB عند 128K رمز، وهو أكثر من ثلاثة أضعاف حجم تنزيله البالغ 4.9 GB.
تخفض البنى الأحدث هذه التكلفة. يستخدم Gemma 4 انتباه النافذة المنزلقة في معظم الطبقات (نافذة 1,024 رمز في نماذج 12B و26B و31B)، ويستخدمه gpt-oss في طبقة من كل طبقتين (128 رمز)، وتستخدم Qwen3.5 وQwen3.8 انتباه Gated DeltaNet الخطي في ثلاث من كل أربع طبقات، ولدى Nemotron 3 Nano ست طبقات انتباه فقط من أصل 52. ولا تنمو مع النافذة إلا طبقات الانتباه الكامل.
القيم أدناه محسوبة من الإعدادات المنشورة لكل نموذج وليست مقيسة. تضيف بيئات التشغيل مخازن حسابية مؤقتة وتختلف تطبيقات cache، لذا تحقق من الاستخدام الفعلي ب ollama ps.
يقلص تكميم KV cache حجمه: بحسب وثائق Ollama يستخدم q8_0 نحو نصف ذاكرة f16 ويستخدم q4_0 نحو الربع، مع فقدان دقة صغير إلى متوسط في q4_0.
النموذج | التنزيل | KV عند 32K | KV عند 128K | KV عند أقصى نافذة |
|---|---|---|---|---|
| Llama 3.1 8B | 4.9 GB | 4 GiB | 16 GiB | 16 GiB (128K) |
| Mistral Small 3.2 24B | 15 GB | 5 GiB | 20 GiB | 20 GiB (128K) |
| gpt-oss 20B | 14 GB | 0.8 GiB | 3 GiB | 3 GiB (128K) |
| Qwen3.5 4B | 3.3 GB | 1 GiB | 4 GiB | 8 GiB (256K) |
| Qwen3.5 9B | 6.6 GB | 1 GiB | 4 GiB | 8 GiB (256K) |
| Gemma 4 12B | 7.7 GB | 0.8 GiB | 2.3 GiB | 4.3 GiB (256K) |
| Gemma 4 26B-A4B | 16 GB | 0.8 GiB | 2.7 GiB | 5.2 GiB (256K) |
| Gemma 4 31B | 19 GB | 3.3 GiB | 10.8 GiB | 20.8 GiB (256K) |
| Qwen3.8 27B | 18 GB | 2 GiB | 8 GiB | 16 GiB (256K) |
| Qwen3.5 35B-A3B | 22 GB | 0.6 GiB | 2.5 GiB | 5 GiB (256K) |
| Qwen3 30B-A3B-2507 | 19 GB | 3 GiB | 12 GiB | 24 GiB (256K) |
| Nemotron 3 Nano 30B-A3B | 18 GB | 0.2 GiB | 0.8 GiB | 6 GiB (1M) |
أي نموذج بسياق طويل يناسب جهازك؟
اختر أولاً بحسب الذاكرة: يجب أن تتسع الأوزان زائد KV cache عند السياق الذي تحتاجه، مع هامش 2 إلى 3 GB لنظام التشغيل وبيئة التشغيل. الاختيارات أدناه حسابات من الجدول أعلاه وليست ترتيباً للجودة؛ لم نقِس دقة السياق الطويل.
- 8 GB: Qwen3.5 4B (تنزيل 3.3 GB). يبلغ KV cache نحو 1 GiB عند 32K و2 GiB عند 64K؛ ويحتاج 128K إلى 4 GiB، وهذا ضيق على 8 GB.
- 16 GB: يتسع Qwen3.5 9B (6.6 GB) عند 128K مع نحو 4 GiB من KV cache. ويتسع Gemma 4 12B (7.7 GB) في نافذته الكاملة 256K مع نحو 4.3 GiB.
- من 24 إلى 32 GB: يحتاج Gemma 4 26B-A4B (16 GB) إلى نحو 5.2 GiB عند 256K. ويحتاج Qwen3.8 27B (18 GB) إلى نحو 8 GiB عند 128K. ويحتاج gpt-oss 20B (14 GB) إلى نحو 3 GiB عند حده الأقصى 128K.
- 48 GB فأكثر: يحتاج Gemma 4 31B (19 GB) إلى نحو 21 GiB عند 256K. ويحتاج Mistral Small 3.2 24B (15 GB) إلى 20 GiB عند 128K مع cache بصيغة f16 ونحو 10 GiB مع q8_0.
- 1M رمز: بحسب إعداده يحتاج Nemotron 3 Nano 30B إلى نحو 6 GiB من KV cache عند 1M فوق تنزيله البالغ 18 GB، فلا تستبعده الذاكرة وحدها على جهاز 32 GB. تقدم NVIDIA الإعداد الافتراضي 256K وتذكر وحدات H100 وA100 كعتاد مدعوم، وتحذّر Unsloth من أن 1M قد يسبب انهيارات بسبب نفاد الذاكرة، فتعامل معه كتجربة. وتذكر Qwen أن 1M رمز على Qwen3-30B-A3B-Instruct-2507 تحتاج إلى نحو 240 GB من ذاكرة GPU.
لماذا يكون السياق القابل للاستخدام أقصر من الحد الأقصى المعلن؟
النافذة المعلنة حد أعلى معماري وليست ضماناً للجودة. وجد Liu وآخرون (2023) أن نماذج اللغة تجيب بأعلى دقة عندما يكون النص ذو الصلة في بداية المدخل أو نهايته، وبدقة أقل عندما يكون في المنتصف، وهو أثر «الضياع في المنتصف» (Lost in the Middle).
اختبر RULER (Hsieh وآخرون، 2024) سبعة عشر نموذجاً تعلن جميعها 32K رمز أو أكثر؛ ولم يحافظ على أداء مرضٍ عند 32K سوى نحو النصف. واختبر NoLiMa (Modarressi وآخرون، 2025) ثلاثة عشر نموذجاً تعلن 128K على الأقل؛ وعند 32K هبط 11 منها دون 50% من درجتها في السياق القصير، وتراجع GPT-4o من 99.3% إلى 69.7%.
سبقت هذه الدراسات معظم النماذج في هذا الدليل، فاقرأها دليلاً على النمط لا درجاتٍ لأي نموذج مذكور هنا. وللتحقق من نموذج بنفسك، اخفِ حقيقة عند 10% و50% و90% من موجّه طويل، واسأل عنها بعبارات مختلفة، وكرر ذلك عند 32K و64K و128K.
عندما تكون الدقة مهمة، ضع التعليمات والحقائق الحاسمة في بداية الموجّه أو نهايته، أو استرجع المقاطع ذات الصلة فقط (انظر قسم RAG أدناه)، أو عالج المستندات الطويلة في أقسام متداخلة.
كيف تضبط طول السياق في Ollama وLM Studio وllama.cpp؟
تختار Ollama سياقها الافتراضي بحسب VRAM لديك: 4K رمز دون 24 GiB، و32K من 24 إلى 48 GiB، و256K عند 48 GiB فأكثر. يُقتطع المدخل الذي يتجاوز السياق المفعّل، فلا يرى النموذج بداية المستند الطويل.
يمكنك ضبط السياق بشريط تمرير تطبيق Ollama، أو متغير البيئة OLLAMA_CONTEXT_LENGTH، أو /set parameter num_ctx داخل ollama run، أو Modelfile، أو خيار num_ctx في واجهة API. وتحقق من النتيجة ب ollama ps.
في LM Studio افتح My Models، وانقر أيقونة الترس لنموذج، واضبط حجم السياق وFlash Attention. وفي llama.cpp يحدد -c حجم السياق (القيمة 0 تحمّله من النموذج)، ويتحكم -fa في Flash Attention، ويكمّم --cache-type-k و--cache-type-v ذاكرة KV cache.
لا تكمّم Ollama ذاكرة KV cache إلا عند تفعيل Flash Attention، والإعداد عام لجميع النماذج. يستخدم OLLAMA_KV_CACHE_TYPE=q8_0 نحو نصف ذاكرة f16، ويستخدم q4_0 نحو الربع.
# 1. Check what a loaded model really uses (see the CONTEXT column)
ollama ps
# 2. Server-wide default (the Ollama app has a context slider instead)
OLLAMA_CONTEXT_LENGTH=65536 ollama serve
# 3. One interactive session
ollama run qwen3.5:9b
>>> /set parameter num_ctx 65536
# 4. A persistent custom model
cat << EOF > Modelfile
FROM qwen3.5:9b
PARAMETER num_ctx 131072
EOF
ollama create qwen3.5-9b-128k -f Modelfile
ollama run qwen3.5-9b-128k
# 5. Optional: shrink the KV cache (global setting, needs Flash Attention)
OLLAMA_FLASH_ATTENTION=1 OLLAMA_KV_CACHE_TYPE=q8_0 ollama serve
# llama.cpp equivalent
llama-server -m model.gguf -c 131072 -fa on --cache-type-k q8_0 --cache-type-v q8_0
هل تستهلك المستندات غير الإنجليزية جزءاً أكبر من نافذة السياق؟
قد يحدث ذلك: وجد Petrov وآخرون (2023) أن النص نفسه قد يحتاج إلى رموز تصل إلى 15 ضعفاً في لغة مقارنةً بأخرى بحسب المجزّئ (tokenizer). ويعتمد تأثر النص الياباني أو الصيني أو الكوري أو العربي على مجزّئ النموذج.
لا تحوّل الصفحات إلى رموز بالقاعدة الإنجليزية 0.75 كلمة لكل رمز. عُدّ الرموز بالنموذج الذي تنوي استخدامه: يطبع ollama run <model> --verbose عدد رموز الموجّه بعد الرد.
ضع ميزانية النافذة لكل لغة ولكل عائلة نماذج، لأن المجزّئات تختلف بين عائلات النماذج.
سياق طويل أم RAG للمستندات؟
استخدم RAG عندما تكون الإجابة في مقاطع قليلة من مجموعة كبيرة، واستخدم السياق الطويل عندما يجب على النموذج الاستدلال على مستند واحد متماسك.
يسترجع RAG (التوليد المعزز بالاسترجاع) أكثر المقاطع صلة، وغالباً بضعة آلاف رمز في المجموع، ويُبقي الموجّه قصيراً. أما السياق الطويل فيحافظ على الإحالات المتبادلة، مثل بنود العقد أو سلاسل الاستدعاء في قاعدة شيفرة، التي قد يقطعها التقسيم إلى أجزاء.
تجمع إعدادات كثيرة بين الأسلوبين: استرجاع أقسام كاملة بدل المقاطع المجتزأة ووضعها في نافذة من 32K إلى 128K. راجع أفضل أدوات RAG المحلية للخيارات المحلية وشرح RAG للمنهج.
أخطاء شائعة مع نماذج LLM المحلية ذات السياق الطويل
- الوثوق بالسياق الافتراضي: تستخدم Ollama افتراضياً 4K رمز عندما تقل VRAM عن 24 GiB أياً كان ما يدعمه النموذج، فيُقتطع مستند من 100 صفحة قبل أن يقرأه النموذج. اضبط السياق صراحةً وتأكد منه في العمود CONTEXT في ollama ps.
- تقدير الذاكرة من حجم التنزيل: قد يتجاوز KV cache الأوزان. حجم تنزيل Llama 3.1 8B هو 4.9 GB لكنه يحتاج إلى نحو 16 GiB من KV cache عند 128K. استخدم المعادلة أو الجدول أعلاه قبل رفع السياق.
- افتراض أن كل وسم له النافذة الطويلة: في مكتبة Ollama يُدرج qwen3:14b سياق 40K بينما يُدرج qwen3:30b سياق 256K. اقرأ قيمة السياق في صفحة النموذج قبل أن تخطط.
- اعتبار النافذة المعلنة هي القابلة للاستخدام: وجد RULER وNoLiMa تراجعاً حاداً في الدقة عند 32K في كثير من النماذج التي تعلن 128K أو أكثر. اختبر بمستنداتك الخاصة بالطول الذي تنوي استخدامه.
- اللجوء إلى 1M رمز افتراضياً: يزداد زمن المعالجة المسبقة والذاكرة مع الموجّه، وتحذّر Unsloth من أن 1M قد يسبب انهيارات بسبب نفاد الذاكرة في Nemotron 3 Nano. استخدم 1M للمهام العارضة وفضّل RAG أو التقسيم للعمل اليومي.
- ضبط q4_0 ل KV cache دون اختبار: توثّق Ollama فقدان دقة صغيراً إلى متوسط في q4_0 قد يظهر أكثر في السياقات الأكبر، والإعداد ينطبق على كل النماذج. ابدأ ب q8_0.
الأسئلة الشائعة
ما أطول نافذة سياق يستطيع LLM محلي استخدامها في عام 2026؟
يُدرج Llama 4 Scout سياق 10M رمز، لكن بطاقته تنشر اختبارات الأداء عند 128K وحجم التنزيل في Ollama 67 GB. ومن بين النماذج التي تعمل على جهاز استهلاكي واحد، يدعم NVIDIA Nemotron 3 Nano 30B-A3B سياق 1M رمز (والإعداد الافتراضي 256K)، وتدعم Qwen3.8 وQwen3.5 سياق 256K أصلاً وحتى نحو 1M عبر YaRN. وتعتمد صلاحية النافذة الطويلة للاستخدام على الذاكرة وعلى دقة قراءة النموذج للمدخلات الطويلة.
هل ما زالت نافذة سياق 128K كافية؟
تعادل 128K رمز نحو 100,000 كلمة، وهي كافية لمعظم المستندات المفردة. يتراوح كتاب من 300 صفحة عادةً بين 75,000 و100,000 كلمة، أي نحو 100K إلى 135K رمز، فيتجاوز نافذة 128K غالباً أو يكاد يملؤها دون مساحة للأسئلة والأجوبة. وتتسع نافذة 256K للكتاب والإجابة؛ وبعد ذلك استخدم RAG أو التقسيم.
كم ذاكرة يحتاج سياق من 1M رمز؟
يعتمد ذلك على البنية. بحسب الإعدادات المنشورة، يبلغ KV cache بصيغة f16 عند 1M رمز نحو 32 GiB في Qwen3.5 9B ونحو 64 GiB في Qwen3.8 27B ونحو 6 GiB في Nemotron 3 Nano 30B-A3B، فوق الأوزان. وتذكر Qwen أن 1M رمز على Qwen3-30B-A3B-Instruct-2507 تحتاج إلى نحو 240 GB من ذاكرة GPU. يخفض cache بصيغة q8_0 قيم KV إلى النصف، ويزداد زمن قراءة موجّه من 1M رمز مع طوله، لذا احتفظ به للمهام العارضة.
لماذا تحتاج نماذج بنافذة السياق نفسها إلى كميات مختلفة من الذاكرة؟
ينمو KV cache مع طبقات الانتباه الكامل × رؤوس KV × بُعد الرأس × عدد الرموز. يحتاج Llama 3.1 8B إلى 128 KiB لكل رمز، وGemma 4 26B-A4B إلى نحو 20 KiB لأن 5 فقط من طبقاته الثلاثين تستخدم الانتباه الكامل، وNemotron 3 Nano إلى نحو 6 KiB لأن 6 فقط من طبقاته الاثنتين والخمسين طبقات انتباه. وتحتفظ طبقات النافذة المنزلقة والانتباه الخطي وMamba بحالة ذات حجم ثابت بدل النمو مع النافذة.
ما هو KV cache وكيف أقلّصه؟
يحتفظ KV cache بمفاتيح الانتباه وقيمه لكل رمز في السياق كي لا يعيد النموذج حسابها مع كل رمز جديد. يُخصَّص فوق الأوزان وينمو مع طول السياق. لتقليصه، خفّض num_ctx، وفعّل Flash Attention واضبط OLLAMA_KV_CACHE_TYPE على q8_0 (نحو نصف ذاكرة f16) أو q4_0 (نحو الربع، مع فقدان دقة أكبر في السياقات الطويلة)، أو اختر نموذجاً ب cache أصغر لكل رمز. في Ollama نوع cache عام وينطبق على كل النماذج.
لماذا ينسى نموذجي المحلي بداية مستندي؟
على الأرجح أن السياق المفعّل أصغر من مستندك. تستخدم Ollama افتراضياً 4K رمز على وحدات GPU التي تقل VRAM فيها عن 24 GiB، و32K من 24 إلى 48 GiB، و256K من 48 GiB فما فوق، أياً كان ما يدعمه النموذج، ويُقتطع المدخل الذي يتجاوز السياق. تحقق من العمود CONTEXT في ollama ps وارفعه عبر OLLAMA_CONTEXT_LENGTH أو /set parameter num_ctx أو Modelfile أو خيار num_ctx في API.
كيف أضبط سياق 128K في Ollama؟
أنشئ Modelfile يحتوي على FROM qwen3.5:9b وPARAMETER num_ctx 131072، وشغّل ollama create qwen3.5-9b-128k -f Modelfile، ثم ollama run qwen3.5-9b-128k وتحقق ب ollama ps. أو شغّل الخادم بالأمر OLLAMA_CONTEXT_LENGTH=131072 ollama serve. تأكد أولاً من أن الأوزان زائد KV cache تتسع في الذاكرة؛ وفي Qwen3.5 9B يعني ذلك نحو 6.6 GB زائد 4 GiB.
هل يجعل السياق الأطول نموذج LLM المحلي أبطأ؟
نعم. يجب على النموذج قراءة الموجّه كله (المعالجة المسبقة) قبل كتابة الرمز الأول، فيزداد الزمن حتى الرمز الأول مع طول الموجّه، كما أن الانتباه على cache أكبر يخفض سرعة التوليد أيضاً. تقلل طبقات الانتباه الخطي وMamba هذا النمو لكنها لا تزيله. قِس على عتادك بالأمر ollama run <model> --verbose الذي يطبع معدلات تقييم الموجّه والتوليد.
ما مشكلة «الضياع في المنتصف» وهل ما زالت قائمة؟
وجد Liu وآخرون (2023) أن نماذج اللغة تجيب بأعلى دقة عندما يكون النص ذو الصلة في بداية المدخل أو نهايته، وبدقة أقل عندما يكون في المنتصف. وأظهر RULER (2024) وNoLiMa (2025) لاحقاً أن نماذج كثيرة تعلن نوافذ من 32K إلى 128K تفقد الدقة قبل حدودها بكثير. اختبرت هذه الدراسات نماذج أقدم، لذا أجرِ فحصك الخاص: اخفِ حقيقة عند 10% و50% و90% من موجّه طويل واسأل عنها. ضع التعليمات الحاسمة في البداية أو النهاية، أو استرجع المقاطع ذات الصلة فقط.
هل السياق الطويل أم RAG أفضل للإجابة عن أسئلة المستندات؟
يكون RAG عادةً أقل كلفة في الذاكرة والزمن عندما تكون الإجابة في مقاطع قليلة من مجموعة كبيرة، لأنه يُبقي الموجّه عند بضعة آلاف رمز. ويكون السياق الطويل أفضل عندما يجب على النموذج الاستدلال على مستند واحد متماسك، مثل عقد أو قاعدة شيفرة أو فصل كتاب، حيث قد يقطع التقسيم الإحالات المتبادلة. وتجمع إعدادات كثيرة بين الأسلوبين باسترجاع أقسام كاملة في نافذة من 32K إلى 128K.
هل أستطيع تلخيص كتاب كامل بنموذج LLM محلي؟
يبلغ كتاب من 300 صفحة نحو 100K إلى 135K رمز، فيتسع في نافذة 256K (Qwen3.5 وQwen3.8 وGemma 4 من 12B فما فوق) وقد لا يتسع في نافذة 128K عند احتساب الملخص. مع نموذج 128K أو ذاكرة أقل، لخّص فصلاً بفصل ثم لخّص الملخصات. اضبط num_ctx صراحةً ليكون الكتاب كله في السياق المفعّل.
هل تستهلك المستندات غير الإنجليزية جزءاً أكبر من نافذة السياق؟
قد يحدث ذلك. وجد Petrov وآخرون (2023) أن النص نفسه قد يحتاج إلى رموز تصل إلى 15 ضعفاً في لغة مقارنةً بأخرى بحسب المجزّئ. عُدّ الرموز بنموذجك بدل استخدام القاعدة الإنجليزية 0.75 كلمة لكل رمز: يطبع ollama run <model> --verbose عدد رموز الموجّه.
أي النماذج ذات السياق الطويل تعمل على جهاز 16 GB؟
بحساب الذاكرة، يتسع Qwen3.5 9B (تنزيل 6.6 GB زائد نحو 4 GiB من KV cache عند 128K) وGemma 4 12B (7.7 GB زائد نحو 4.3 GiB عند نافذته الكاملة 256K) في 16 GB مع هامش بضعة GB. هذه حسابات من إعدادات منشورة وليست تشغيلات مقيسة؛ تحقق ب ollama ps.
المصادر
- Ollama. (2026). "Context length" documentation. docs.ollama.com -- السياق الافتراضي بحسب شريحة VRAM، وOLLAMA_CONTEXT_LENGTH، وتوصية 64,000 رمز للوكلاء.
- Ollama. (2026). "FAQ". docs.ollama.com -- /set parameter num_ctx وOLLAMA_FLASH_ATTENTION وOLLAMA_KV_CACHE_TYPE (f16 وq8_0 وq4_0).
- Ollama. (2026). "qwen3.8" library page. ollama.com -- 27B، 18 GB، سياق 256K.
- Ollama. (2026). "qwen3.5" library page. ollama.com -- وسوم من 0.8B إلى 122B، سياق 256K.
- Ollama. (2026). "qwen3" library page. ollama.com -- 40K ل 8B/14B/32B، و256K ل 4B/30B.
- Ollama. (2026). "gemma4" library page. ollama.com -- E2B/E4B بسياق 128K، و12B/26B/31B بسياق 256K.
- Ollama. (2026). "nemotron-3-nano" library page. ollama.com -- وسم 30B يُدرج سياق 1M، 18 GB.
- Ollama. (2026). "llama4" library page. ollama.com -- Scout بحجم 67 GB وسياق 10M، وMaverick بحجم 245 GB وسياق 1M.
- Ollama. (2026). "mistral-small3.2" و"gpt-oss" و"llama3.1" library pages. ollama.com -- نوافذ 128K، وتنزيلات 15 GB و14 GB و4.9 GB.
- Qwen Team. (2026). "Qwen3.8-27B" model card. huggingface.co -- 262,144 أصلاً، وحتى 1,000,000 مع YaRN، ترخيص Apache-2.0.
- Qwen Team. (2026). "Qwen3.5-9B" model card. huggingface.co -- 262,144 أصلاً، وحتى 1,010,000 مع YaRN؛ تصميم هجين ب Gated DeltaNet.
- Qwen Team. (2025). "Qwen3-30B-A3B-Instruct-2507" model card. huggingface.co -- 262,144 أصلاً، و1M مع Dual Chunk Attention، ونحو 240 GB من ذاكرة GPU.
- Google. (2026). "Gemma 4 31B" model card. huggingface.co -- 128K ل E2B/E4B، و256K للأحجام الأكبر.
- NVIDIA. (2025). "NVIDIA-Nemotron-3-Nano-30B-A3B-BF16" model card. huggingface.co -- 23 طبقة Mamba-2 وMoE وست طبقات انتباه، يدعم 1M، والافتراضي 256K.
- Meta. (2025). "Llama-4-Scout-17B-16E-Instruct" model card. huggingface.co -- 109B إجمالاً، و10M مُدرج، واختبارات السياق الطويل عند 128K.
- Unsloth. (2026). "NVIDIA Nemotron 3 Nano -- How To Run Guide". unsloth.ai -- قد ينفد الذاكرة عند سياق 1M، والافتراضي 262,144.
- Liu et al. (2023). "Lost in the Middle: How Language Models Use Long Contexts". arxiv.org -- تبلغ الدقة أقصاها في بداية المدخل ونهايته.
- Hsieh et al. (2024). "RULER: What's the Real Context Size of Your Long-Context Language Models?". arxiv.org -- نحو نصف 17 نموذجاً تعلن 32K+ فقط يبقى مرضياً عند 32K.
- Modarressi et al. (2025). "NoLiMa: Long-Context Evaluation Beyond Literal Matching". arxiv.org -- 11 من 13 نموذجاً تهبط دون 50% من درجتها في السياق القصير عند 32K.
- Petrov et al. (2023). "Language Model Tokenizers Introduce Unfairness Between Languages". arxiv.org -- حتى 15 ضعفاً من الرموز للنص نفسه.
- llama.cpp. "llama-server" README. github.com -- --ctx-size و--flash-attn و--cache-type-k و--cache-type-v.
- LM Studio. "Per-model default parameters". lmstudio.ai -- حجم السياق وFlash Attention لكل نموذج.
- أحجام KV cache في هذا الدليل محسوبة من ملف config.json لمستودع كل نموذج على Hugging Face (الطبقات ورؤوس KV وبُعد الرأس وأنواع طبقات الانتباه) وليست مقيسة.