Skip to main content
PromptQuorumPromptQuorum

⁨Q4⁩_⁨K⁩_⁨M⁩ مقابل ⁨Q8⁩_⁨0⁩: أيهما تختار؟

إجابة سريعة

استخدم Q4_K_M مع 8 GB من VRAM أو أقل. استخدم Q8_0 مع 12+ GB. يوفر Q4_K_M حوالي 95% من جودة Q8_0 بنصف حجم الملف تقريبًا.

  • Q4_K_M: ~5–6 GB لنماذج 7B، مثالي لـ 8 GB VRAM
  • Q8_0: ~8–9 GB لنماذج 7B، يحتاج 12+ GB VRAM
  • فارق الجودة أقل من 5% في الاستخدام الفعلي

تحديث: ٢٠ يونيو ٢٠٢٦

Quantization & VRAM

النقاط الرئيسية

  • 8 GB VRAM أو أقل: استخدم Q4_K_M — يوفر 95% من جودة Q8_0 بنصف حجم الملف تقريبًا
  • 12+ GB VRAM: يستحق Q8_0 العناء للحصول على جودة شبه كاملة بدون عقوبة في السرعة
  • لمعظم المستخدمين الذين يستخدمون Ollama يوميًا، Q4_K_M هو الاختيار الصحيح

الحكم السريع

اعتبارًا من مايو 2026، يمثل Q8_0 حوالي 99% من جودة الدقة الكاملة، ويمثل Q4_K_M حوالي 92%. الفارق البالغ 7 نقاط غير مرئي في الدردشة والبرمجة والتلخيص — وهي المهام الثلاث التي تغطي 95% من استخدام نماذج اللغة المحلية. لا يتفوق Q8_0 إلا في استرجاع الحقائق من المستندات الطويلة والرياضيات متعددة الخطوات وتوليد الكود الذي يتطلب بناءً صحيحًا في 500+ سطر.

يُعدّ Q4_K_M الخيار الافتراضي الصحيح لأن الجودة الإضافية لـ Q8_0 تظهر فقط في الحالات القصوى: التوليد الطويل مع استرجاع دقيق للحقائق، أو الاستدلال الرياضي الذي يتطلب دقة أعلى. لكل شيء آخر، يعادل Q4_K_M أداء Q8_0 عمليًا.

إذا كنت تستخدم Q4_K_M بالفعل وبدت النتائج خاطئة، فالمشكلة في الغالب ليست في الكميّة — بل في حجم النموذج أو بنية الموجّه.

مقارنة جانبًا إلى جانب

يقارن الجدول التالي Q4_K_M و Q8_0 لنموذج 7B. كلا الصيغتين تعملان مع Ollama و LM Studio و llama.cpp دون أي إعداد خاص.

لفهم ماهية Q4_K_M وكيف تعمل ضغط k-quant، راجع دليل شرح Q4_K_M. للمرجع الكامل حول الكميّة، راجع مستويات الكميّة مقارنةً.

ثلاث مهام تكشف فجوة الجودة في Q4_K_M: استرجاع المستندات الطويلة (50+ صفحة)، والرياضيات متعددة الخطوات مع حالات وسيطة، وتوليد الكود الذي يتجاوز 300 سطر. في هذه الحالات، تمنع الدقة الإضافية في Q8_0 أخطاء الانجراف الصغيرة التي تتراكم في المخرجات الطويلة. لكل شيء آخر — الدردشة والكود الأقل من 200 سطر والأسئلة والأجوبة والتلخيص — الفجوة غير مرئية. للمراجعة قبل اتخاذ القرار، راجع ماذا يعني Q4_K_M.

المقياسQ4_K_MQ8_0
حجم الملف (نموذج 7B)~4.1 GB~7.7 GB
VRAM المطلوبة (7B)5–6 GB8–9 GB
الجودة مقارنةً بالدقة الكاملة~92%~99%
الأنسب لـ6–8 GB VRAM12+ GB VRAM

إجابات سريعة حول Q4_K_M مقابل Q8_0

هل يتفوق Q8_0 بشكل ملحوظ على Q4_K_M؟
فقط في الحالات القصوى — الرياضيات المعقدة متعددة الخطوات، واسترجاع الاقتباسات الدقيقة من المستندات الطويلة، أو المخرجات الطويلة جدًا. في الدردشة والبرمجة والتلخيص (التي تغطي 95% من الاستخدام)، لا يلاحظ معظم المستخدمين الفرق.
هل Q8_0 أسرع من Q4_K_M؟
لا. Q8_0 أكبر حجمًا ويتطلب نطاق ترددي أعلى للذاكرة، مما يجعله أبطأ قليلًا لكل رمز مقارنةً بـ Q4_K_M. السرعة والجودة كلاهما يصبّان في صالح Q4_K_M في الإعدادات ذات VRAM المحدودة. راجع ماذا يعني Q4_K_M للسبب الجوهري.
هل يمكنني التبديل بين Q4_K_M و Q8_0 لمهام مختلفة؟
بالطبع، بتنزيل وتشغيل وسوم نماذج مختلفة. في Ollama: ollama pull llama3:8b-q4_K_M و ollama pull llama3:8b-q8_0 تنزيلان منفصلان. تتبادل بينهما بتحديد الوسم في ollama run.
وماذا عن Q4_K_S — هل يستحق استخدامه بدلًا من Q4_K_M؟
يوفر Q4_K_S حوالي 300 MB مقارنةً بـ Q4_K_M لكنه يقدم جودة أدنى. استخدم Q4_K_S فقط إذا كانت VRAM لديك محدودة جدًا ولا يتسع Q4_K_M. في الغالب الأعم، Q4_K_M هو الاختيار الأفضل.