Mistral Small 24B مقابل Qwen 3 14B مقابل Llama 3.3 8B: أيهما تشغّل محلياً؟
إجابة سريعة
اختر حسب VRAM: Llama 3.3 8B (4.9 GB)، Qwen 3 14B (9.3 GB)، Mistral Small 3.1 24B (14.4 GB). Qwen 14B يتفوق بـ 12 GB من VRAM. Mistral Small 24B يتفوق فوق 16 GB في مهام الاستدلال.
- ▸Llama 3.3 8B Q4_K_M: 4.9 GB VRAM، ~45 توكن/ث على RTX 4090، MMLU 66.6% — الأفضل لبطاقات 6–8 GB
- ▸Qwen 3 14B Q4_K_M: 9.3 GB VRAM، ~28 توكن/ث، MMLU 74.8% — النقطة المثلى لبطاقات 12 GB
- ▸Mistral Small 3.1 24B Q4_K_M: 14.4 GB VRAM، ~20 توكن/ث، MMLU ~81% — لبطاقات 16 GB فما فوق فقط
تحديث: ٢٠ يونيو ٢٠٢٦
النقاط الرئيسية
- ✓Llama 3.3 8B بتكميم Q4_K_M يستخدم 4.9 GB VRAM ويعمل بـ ~45 توكن/ث على RTX 4090 — النموذج الوحيد القابل للتطبيق من هذه المجموعة لبطاقات 6 GB
- ✓Qwen 3 14B بتكميم Q4_K_M يستخدم 9.3 GB ويحقق 74.8% MMLU — النقطة المثلى لبطاقات 12 GB كـ RTX 3060 12 GB أو RTX 4060 Ti 16 GB
- ✓Mistral Small 3.1 24B بتكميم Q4_K_M يستخدم 14.4 GB ويصل إلى ~81% MMLU — قابل للتطبيق فقط على بطاقات 16 GB (RTX 4080، RTX 3090، RTX 4090)
- ✓للبرمجة على 12 GB: Qwen 3 Coder 14B. للاستدلال متعدد اللغات على 16 GB+: Mistral Small 3.1 24B. أقل من 10 GB: Llama 3.3 8B.
متطلبات VRAM: أي بطاقة تشغّل أي نموذج
الاختيار بين هذه النماذج الثلاثة هو في الأساس قرار VRAM. عند تكميم Q4_K_M: Llama 3.3 8B يستخدم 4.9 GB، Qwen 3 14B يستخدم 9.3 GB، وMistral Small 3.1 24B يستخدم 14.4 GB. هذا يتوافق مباشرةً مع ثلاثة مستويات من GPU: بطاقات 6–8 GB (Llama 3.3 8B فقط)، بطاقات 10–12 GB (Qwen 3 14B)، وبطاقات 16+ GB (Mistral Small 24B).
السرعة على RTX 4090 بتكميم Q4_K_M: Llama 3.3 8B يعمل بـ ~45 توكن/ث، Qwen 3 14B بـ ~28 توكن/ث، وMistral Small 3.1 24B بـ ~20 توكن/ث. على RTX 3060 12 GB، يتسع فقط Llama 3.3 8B وQwen 3 14B — Mistral Small 24B يحتاج على الأقل بطاقة 16 GB لتجنب نقل الأحمال إلى RAM وحدة المعالجة.
الفرق في المعايير القياسية كبير: 81% MMLU لـ Mistral Small 24B يتفوق بـ 14 نقطة على Llama 3.3 8B وبـ 6 نقاط على Qwen 3 14B. في مهام الاستدلال متعدد الخطوات المعقدة واتباع التعليمات، هذا الفارق ملحوظ عملياً.
| النموذج | VRAM (Q4_K_M) | السرعة (RTX 4090) | MMLU | الحد الأدنى للـ GPU |
|---|---|---|---|---|
| Llama 3.3 8B | 4.9 GB | ~45 توكن/ث | 66.6% | RTX 3060 6 GB |
| Qwen 3 14B | 9.3 GB | ~28 توكن/ث | 74.8% | RTX 3060 12 GB |
| Mistral Small 3.1 24B | 14.4 GB | ~20 توكن/ث | ~81% | RTX 4080 16 GB |
الجودة مقابل VRAM: متى يتفوق كل نموذج
Llama 3.3 8B يتفوق في كفاءة VRAM. بـ 4.9 GB Q4_K_M هو النموذج الوحيد من هذه المجموعة الذي يتسع في بطاقة 6 GB مع هامش لنافذة سياق 4k توكن. يحقق 66.6% في MMLU ويوفر استجابات تفاعلية سريعة (~45 توكن/ث على RTX 4090). للمحادثة واستفسارات البرمجة السريعة والاستخدام اليومي على الأجهزة المحدودة، هو الاختيار الصحيح.
Qwen 3 14B يتفوق بـ 12 GB VRAM. 74.8% MMLU يضعه فوق Llama 3.3 8B في الاستدلال والبرمجة — ويتسع في أكثر مستويات GPU شيوعاً للمحترفين. نسخة Qwen Coder 14B (نفس الحجم، محسّنة للكود) تحقق ~78% في HumanEval.
Mistral Small 3.1 24B يتفوق في الجودة عندما يسمح VRAM بذلك. 81% MMLU وأداء متعدد اللغات القوي يجعلانه الخيار الأفضل لبطاقات 16 GB. يتعامل مع الاستدلال الطويل ومهام الإخراج المنظم ومجموعات التعليمات المعقدة بشكل أكثر موثوقية من نماذج فئة 14B.
للمقارنة المباشرة لفئة 14B راجع مقارنة Qwen 14B مقابل Llama 8B، التي تتضمن تفاصيل معايير البرمجة.