كم ⁨VRAM⁩ تحتاج للنماذج اللغوية المحلية؟

اقرأ بـ:

🇺🇸en 🇩🇪de 🇫🇷fr 🇯🇵ja 🇨🇳zh 🇪🇸es 🇧🇷pt 🇸🇦ar 🇰🇷ko

إجابة سريعة

4 GB من VRAM يستوعب Phi-4 Mini وGemma 2B بسهولة مع هامش لتوسيع السياق. 6 GB يشغّل Llama 3 8B بتكميم Q4. 12 GB يستوعب Qwen 14B Q4 بكفاءة. النماذج بـ 70B عند Q4 تحتاج 16+ GB.

▸4 GB: Phi-4 Mini Q4، Gemma 2 2B
▸6 GB: Llama 3 8B Q4_K_M
▸8–12 GB: Mistral Small Q5، Qwen 14B Q4

تحديث: ٢٠ يونيو ٢٠٢٦

Quantization & VRAM

النقاط الرئيسية

✓4 GB من VRAM يشغّل Phi-4 Mini Q4 وGemma 2 2B بسلاسة
✓6 GB هو حد الدخول لـ Llama 3 8B بتكميم Q4_K_M — النموذج المحلي الأكثر شيوعاً
✓12 GB يفتح الباب أمام Qwen 14B Q4، أفضل مستوى جودة بالسعر
✓النماذج بـ 70B تحتاج 40+ GB — خطط لذلك باستخدام RTX 3090 مزدوج أو Apple M-series بذاكرة موحدة كبيرة

متطلبات VRAM حسب حجم النموذج

اعتباراً من مايو 2026، يتبع استهلاك VRAM للنموذج معادلة بسيطة: المعاملات بالمليار × 0.7 = GB تقريبياً عند تكميم Q4. نموذج 7B يحتاج ~4.9 GB للأوزان، بالإضافة إلى 0.5–1 GB كنفقات عامة للسياق. لهذا السبب 6 GB هو الحد الأدنى للنطاق 7–8B، و12 GB يفتح نطاق 14B مع هامش.

استخدم الجدول التالي كمرجع سريع. عمود "السرعة" يفترض Ollama على GPU مكتبية مع سياق افتراضي (2048 توكن).

اترك دائماً 1–2 GB من VRAM فارغة فوق احتياجات النموذج المُعلنة. نظام التشغيل ونوافذ المتصفح وبيئة تشغيل Ollama تستهلك 500 MB–1 GB حتى بدون تحميل نموذج. راجع الدليل الشامل لـ VRAM للنماذج المحلية لمزيد من التفاصيل.

VRAM	أفضل نموذج بـ Q4_K_M	السرعة
4 GB	Phi-4 Mini Q4	~25 توكن/ث
6 GB	Llama 3 8B Q4_K_M	~20 توكن/ث
8 GB	Mistral Small Q5_K_M	~18 توكن/ث
12 GB	Qwen 14B Q4_K_M	~15 توكن/ث
16+ GB	Qwen 32B Q4 أو Llama 70B جزئي	~8 توكن/ث

ماذا تفعل عندما تكون VRAM غير كافية

إذا تجاوز النموذج VRAM المتاحة لديك، فلديك ثلاثة خيارات: تقليل التكميم (Q4_K_M بدلاً من Q5)، تقليل نافذة السياق باستخدام --num-ctx 2048، أو السماح لـ Ollama بنقل الطبقات إلى RAM الجهاز.

النقل إلى CPU يعمل لكنه بطيء — كل طبقة تُنقل إلى RAM تضيف كمون. للاستخدام التفاعلي، ابقَ ضمن حد VRAM لـ GPU. تقليل السياق من 4096 إلى 2048 توكن يوفر ~2 GB في نموذج 7B.

للتفاصيل الكاملة حول أحجام النماذج وحساب VRAM، راجع الدليل الشامل لـ VRAM للنماذج المحلية. للنطاق 7B تحديداً، راجع كم ذاكرة يحتاج نموذج 7B.

أسئلة شائعة حول VRAM

هل 8 GB من VRAM كافية للنماذج اللغوية المحلية؟▾

نعم. بـ 8 GB يمكنك تشغيل Llama 3 8B بتكميم Q5_K_M بسرعة ~18 توكن/ث، أو Mistral Small بتكميم Q5_K_M مع هامش وافر. معظم مهام المحادثة والبرمجة اليومية مغطاة جيداً في هذا النطاق.

هل يمكن تشغيل نموذج 7B بـ 4 GB VRAM؟▾

لا. نموذج 7B بتكميم Q4 يحتاج 5–6 GB من VRAM. أصغر تكميم قابل للاستخدام لا يزال يتجاوز 4 GB. راجع كم ذاكرة يحتاج نموذج 7B للتفاصيل الكاملة.

هل يؤثر حجم نافذة السياق على استهلاك VRAM؟▾

نعم. كل 1000 توكن إضافي من السياق يستهلك ~250 MB من VRAM في نموذج 7B. السياق الافتراضي 2048 توكن يستخدم ~0.5 GB؛ 16384 توكن يستخدم ~4 GB إضافية فوق وزن النموذج.

ماذا أفعل إذا استخدم نموذجي VRAM أكثر من المتوقع؟▾

اضبط --num-ctx 2048 في أمر Ollama. هذا يقلل استخدام VRAM بما يصل إلى 2 GB في نماذج 7B دون تعديل ملف النموذج.

← العودة إلى لقطات سريعة