أفضل نماذج Ollama للـCPU فقط؟
إجابة سريعة
بدون GPU، Phi-4 Mini في Q4 يقدم أفضل توازن بين الجودة والسرعة على CPU. Llama 3 8B Q4 يعمل بـ8 GB RAM أو أكثر. Gemma 2B هو الخيار الأسرع على CPU.
- ▸Phi-4 Mini Q4: أفضل نسبة جودة/سرعة على CPU، يحتاج 4 GB RAM
- ▸Llama 3 8B Q4: أفضل جودة، يحتاج 8 GB RAM (أبطأ)
- ▸Gemma 2B: الاستدلال الأسرع على CPU، 2 GB RAM
تحديث: ٢١ يونيو ٢٠٢٦
النقاط الرئيسية
- ✓الاستدلال على CPU أبطأ 5–10 مرات من GPU — توقع 3–6 رمز/ثانية على CPU مكتبي حديث 8 أنوية
- ✓Phi-4 Mini Q4 هو الخيار الأمثل للـCPU فقط: 4 GB RAM، ~5 رمز/ثانية، جودة استدلال ممتازة
- ✓Gemma 2B هو الأسرع على CPU (~6 رمز/ثانية) لكن جودة استدلاله أدنى من Phi-4 Mini
- ✓الاستدلال على CPU مناسب للمعالجة الدفعية والاستعلامات الفردية؛ بطيء جداً للدردشة التفاعلية
واقع السرعة على CPU
اعتباراً من مايو 2026، الاستدلال على CPU يعمل بـ3–6 رموز/ثانية على CPU مكتبي حديث 8 أنوية — أبطأ بحوالي 5–10 مرات من GPU متوسطة المستوى. نموذج 7B في Q4 ينتج حوالي كلمة كل 200–300 مللي ثانية على CPU.
هذه السرعة مقبولة لحالتي استخدام: المعالجة الدفعية الليلية (كتلخيص المستندات أو تصنيف البيانات)، والاستعلامات الفردية حيث انتظار 30 ثانية مقبول. للدردشة التفاعلية أو الإكمال الفوري للكود، الاستدلال على CPU بطيء جداً لكي يكون عملياً.
القيد الجوهري هو عرض نطاق الذاكرة، لا سرعة ساعة CPU. CPUs المستهلكين تقرأ RAM بـ40–80 GB/s. GPU مخصصة تقرأ VRAM بـ400–900 GB/s. استدلال نماذج اللغة الكبيرة يتناسب مباشرة مع عرض نطاق الذاكرة — لهذا حتى GPU متوسطة المستوى تنتج استدلالاً أسرع بكثير من CPU عالية الأداء.
أفضل 3 نماذج للاستخدام بـCPU فقط
النموذج الصحيح لـCPU فقط يعتمد على ما إذا كنت تعطي الأولوية للجودة أم السرعة. Phi-4 Mini Q4 يقدم أفضل توازن — يوفر جودة استدلال قريبة من Llama 3 8B مع الحاجة لـ4 GB RAM فقط ويعمل بشكل أسرع ملحوظاً.
Gemma 2B هو الخيار الوحيد القابل للتطبيق عندما تكون RAM محدودة بـ2 GB. يصل إلى ~6 رمز/ثانية على CPU لكنه ينتج إجابات ذات جودة أدنى ملحوظاً في مهام الاستدلال متعددة الخطوات مقارنةً بـPhi-4 Mini.
للمقارنة الشاملة لإعدادات CPU فقط بما في ذلك متطلبات RAM والتحسينات على مستوى نظام التشغيل، راجع دليل أفضل نماذج اللغة الكبيرة للـCPU فقط.
| النموذج | RAM المطلوبة | السرعة على CPU |
|---|---|---|
| Phi-4 Mini Q4 | 4 GB | ~4–5 رمز/ثانية |
| Llama 3 8B Q4 | 8 GB | ~3 رمز/ثانية |
| Gemma 2B | 2 GB | ~6 رمز/ثانية |
أدلة ذات صلة
- ▸Radeon 6800M للنماذج المحلية: دليل الإعداد الكامل -- Radeon GPU guide
- ▸Strix Halo + Ollama + Vulkan: دليل الأداء -- Strix Halo guide