ما هو ضغط ⁨Q4⁩_⁨K⁩_⁨M⁩؟

اقرأ بـ:

🇺🇸en 🇩🇪de 🇫🇷fr 🇯🇵ja 🇨🇳zh 🇪🇸es 🇧🇷pt 🇸🇦ar 🇰🇷ko

إجابة سريعة

يعني Q4_K_M ضغط 4-bit مع ضغط k-quant (K) بجودة متوسطة (M). هو الخيار الافتراضي الأفضل لمعظم النماذج: جودة أعلى من Q4_0، وحجم أصغر من Q8_0.

▸Q = مضغوط، 4 = 4 بت، K = k-quant، M = متوسط
▸جودة أعلى من Q4_0 بنفس حجم الملف
▸استخدم Q4_K_M كضغط افتراضي

تحديث: ٢٠ يونيو ٢٠٢٦

Quantization & VRAM

النقاط الرئيسية

✓Q4_K_M = ضغط 4-bit مع ضغط k-quant بجودة متوسطة — أفضل من Q4_0 بنفس حجم الملف
✓نموذج 7B بـ Q4_K_M يشغل ~4.1 GB على القرص ويحتاج ~5.5 GB VRAM للتشغيل
✓استخدم Q4_K_M كافتراضي — يقدم أفضل نسبة جودة/GB لمعظم ميزانيات VRAM

ماذا تعني كل حرف في Q4_K_M

اعتبارًا من مايو 2026، وُجد Q4_K_M لأن صيغ 4-bit القديمة (Q4_0) فقدت جودةً كبيرة في الأوزان الحرجة. يحل ضغط k-quant هذه المشكلة بتخصيص مزيد من البتات للأوزان الأكثر تأثيرًا في المخرجات وبتات أقل للأقل تأثيرًا. النتيجة: جودة أعلى بنسبة 5–8% من Q4_0 بنفس حجم الملف.

"K" هي المُميِّز الرئيسي. يطبق ضغط k-quant تخصيص بتات غير منتظم — تحصل الأوزان الحرجة على بتات أكثر والأقل أهمية على بتات أقل. يستعيد هذا 5–8% من الجودة مقارنةً بصيغة Q4_0 القديمة بنفس حجم الملف.

"M" هي إعداد الجودة ضمن k-quant. Q4_K_S (صغير) أصغر حجمًا قليلًا بجودة أدنى. Q4_K_M (متوسط) هو أفضل توازن. Q4_K_L (كبير) أفضل هامشيًا لكنه نادرًا ما يستحق الحجم الإضافي.

يعمل k-quant بتجميع الأوزان وتخصيص البتات وفق الأهمية. تحصل المجموعات الأعلى أهمية على 6 بتات لكل وزن. المجموعات متوسطة المستوى على 4 بتات. المجموعات منخفضة الأهمية على 3 بتات. يتوسط المستوى "M" 4.5 بت لكل وزن عبر النموذج بأكمله — ما يُفسر لماذا يقع Q4_K_M بين Q4_K_S و Q5_K_M في الحجم والجودة. حين لا يكفي المستوى M، راجع Q4_K_M مقابل Q8_0.

كيف يُقارَن Q4_K_M بمستويات الضغط الأخرى

يوضح الجدول التالي المقايضات لنموذج 7B. الجودة نسبية إلى خط الأساس للدقة الكاملة Q8_0. ما لم تمتلك 12+ GB VRAM، يقدم Q4_K_M أفضل نسبة جودة/GB.

للمقارنة المباشرة بين Q4_K_M و Q8_0، راجع دليل قرار Q4_K_M مقابل Q8_0. للمرجع الكامل حول الضغط، راجع مقارنة مستويات الضغط.

الصيغة	حجم الملف (7B)	الجودة مقارنةً بـ Q8_0
Q4_0	3.8 GB	أساس (~87%)
Q4_K_M	4.1 GB	~92% (+5%)
Q5_K_M	5.0 GB	~95% (+3%)
Q8_0	7.7 GB	100% (مرجع)

إجابات سريعة حول الضغط

هل Q4_K_M هو نفسه Q4_0؟▾

لا. يستخدم Q4_K_M ضغط k-quant الذي يستعيد 5–8% من الجودة على Q4_0 بنفس عمق البتات. دائمًا فضّل Q4_K_M على Q4_0. راجع دليل Q4_K_M مقابل Q8_0 لمعرفة متى ترفع المستوى.

ما الضغط المناسب مع 8 GB VRAM؟▾

Q4_K_M للنماذج 7B (5.5 GB VRAM). إذا أردت جودة أعلى وتوفر لديك هامش، يستخدم Q5_K_M 6.5 GB ويضيف ~3% جودة. كلاهما يتسع بيسر في 8 GB.

ماذا تعني "M" في Q4_K_M؟▾

Medium (متوسط) — تشير إلى مستوى الجودة ضمن ضغط k-quant. Q4_K_S هو المتغير الصغير (جودة أدنى)، Q4_K_M هو المتوسط (موصى به)، وQ4_K_L هو الكبير (تحسن هامشي عن M).

ما النماذج في Ollama التي تستخدم Q4_K_M افتراضيًا؟▾

معظمها — Llama 3 و Mistral و Qwen و Phi و Gemma تستخدم وسوم Q4_K_M افتراضيًا. حدّد :q5_K_M أو :q8_0 في وسم النموذج لتغيير الضغط.

← العودة إلى لقطات سريعة