مقارنة محركات الاستدلال وبيئات التشغيل والبوابات المحلية (2026): تشغيل النماذج وتقديمها

كيف أجرينا المقارنة

جدول المقارنة

محركات الاستدلال: ما الذي يختلف

• واجهة برمجة متوافقة مع OpenAI. candle-vllm، NVIDIA Dynamo، exo، KoboldCpp، KServe، llama.cpp، LocalAI، LoRAX، Lucebox، MLC LLM، mlx-serve، mlxcel، OlliteRT، oMLX، OpenLLM، Rapid-MLX، Shimmy، SwiftLM، text-generation-webui، vllm-mlx، وvLLM توثّق واجهة HTTP متوافقة مع OpenAI، لذا يمكن للتطبيقات المكتوبة لواجهة OpenAI أن تشير إليها.
• وحدات NVIDIA GPU. candle-vllm، ExLlamaV2، KoboldCpp، llama.cpp، LMDeploy، LocalAI، LoRAX، Lucebox، MLC LLM، mlxcel، SGLang، Shimmy، TensorRT-LLM، text-generation-webui، وvLLM توثّق دعم NVIDIA GPU (CUDA).
• Apple Silicon. candle-vllm، claude-code-local، exo، KoboldCpp، llama.cpp، LocalAI، MLC LLM، MLX-LM، mlx-serve، mlxcel، oMLX، Rapid-MLX، Shimmy، SwiftLM، text-generation-webui، TurboFieldfare، وvllm-mlx توثّق دعم Apple Silicon أو Metal أو MLX.
• وحدات AMD GPU. KoboldCpp، llama.cpp، LocalAI، Lucebox، MLC LLM، SGLang، Shimmy، text-generation-webui، وvLLM توثّق دعم AMD GPU.
• الاستدلال على CPU. exo، KoboldCpp، llama.cpp، LocalAI، OlliteRT، SGLang، text-generation-webui، وvLLM توثّق تشغيل الاستدلال على CPU.
• عدة وحدات GPU وعدة عقد. candle-vllm، NVIDIA Dynamo، ExLlamaV2، exo، KServe، LMDeploy، LocalAI، LoRAX، Lucebox، MLX-LM، mlxcel، oMLX، SGLang، وvLLM توثّق الاستدلال على عدة وحدات GPU أو بالتوازي الموتري (tensor-parallel) أو على عدة عقد.
• الرخصة. معظم المحركات هنا بترخيص Apache-2.0 (19 أداة) أو MIT (9)؛ أما KoboldCpp وtext-generation-webui فبترخيص AGPL-3.0. تفرض رخص copyleft شروطًا على توزيع النسخ المعدّلة — راجع شرح رخص أدوات الذكاء الاصطناعي.

بيئات التشغيل والمديرون: ما الذي يختلف

• واجهة برمجة متوافقة مع OpenAI. Docker Model Runner، Foundry Local، GPUStack، Jan، Lemonade، وOsaurus توثّق واجهة برمجة متوافقة مع OpenAI.
• تطبيق سطح المكتب. GPT4All، Jan، LM Studio، Osaurus، وYpipe توثّق تطبيق سطح مكتب قابلًا للتثبيت.
• مكتبة نماذج مدمجة. Foundry Local، GPUStack، Jan، Lemonade، LM Studio، وOllama توثّق وسيلة مدمجة للعثور على النماذج وتنزيلها.
• الوضع بلا واجهة أو وضع الخادم. DreamServer، GPUStack، Lemonade، وOsaurus توثّق التشغيل كخدمة في الخلفية أو كخادم دون واجهة رسومية.
• الرخصة والسعر. أربع من بيئات التشغيل هنا بترخيص Apache-2.0 وأربع بترخيص MIT. أما LM Studio وDocker Model Runner فمملوكتان (LM Studio مجاني الاستخدام؛ وDocker Model Runner مضمَّن مع Docker Desktop)، وMsty مغلق المصدر مع خطة مجانية، وتستخدم RunAnywhere وYPipe شروطها الخاصة أو غير موثّقة — راجع كل مراجعة.

المسيّرات والبوابات: ما الذي يختلف

• نقطة نهاية متوافقة مع OpenAI. AIClient2API وlitellm توثّق نقطة نهاية متوافقة مع OpenAI.
• التوجيه إلى النماذج المحلية. litellm يوثّق النماذج المحلية أو المستضافة ذاتيًا (مثل Ollama) ضمن المزوّدين المدعومين.
• البديل الاحتياطي وموازنة الحمل. AIClient2API، ClawRouter، وlitellm توثّق البديل الاحتياطي أو إعادة المحاولة أو موازنة الحمل عبر النماذج أو المزوّدين.
• الرخصة. اثنتان من الأربع بترخيص MIT، وواحدة بترخيص GPL-3.0، وواحدة بترخيص Apache-2.0.

ما لا تخبرك به هذه المقارنة

• تقارن هذه المقارنة القدرات الموثّقة لا الأداء. فهي لا تقول شيئًا عن الرموز في الثانية أو استهلاك الذاكرة أو زمن الاستجابة — لم تقِسها PromptQuorum لهذه الأدوات، وهي تعتمد بشدة على عتادك ونموذجك.
• الشرطات فجوات في التوثيق الذي راجعناه، وليست نتائج سلبية. قد تدعم بعض الأدوات ميزة لا يذكرها ملف README الخاص بها؛ ويظهر ذلك بوضوح أكبر في بعض الأدوات واسعة الاستخدام التي تقول ملفات README القصيرة الخاصة بها القليل (مثل ميزات المحرك في Ollama).
• دعم العتاد هو ما يذكره التوثيق، وليس ضمانًا لتجربة جيدة على ذلك العتاد؛ اقرأ مراجعة الأداة لمعرفة المتطلبات الفعلية.
• تتغير الأدوات بسرعة. تذكر مراجعة كل أداة الإصدار الذي دُقّقت مقابله، ويُحدَّث هذا الدليل عند تحديث مراجعة.

الأسئلة الشائعة

المصادر

• ملف README الرسمي لكل أداة أو موقعها، المدرج في مراجعتها في PromptQuorum (المرتبطة من جدول المقارنة).
• دليل PromptQuorum لتطبيقات الذكاء الاصطناعي المحلية — السجل الذي يُنشأ منه كل صف في الجدول.
• شرح رخص أدوات الذكاء الاصطناعي — معنى عائلات الرخص المذكورة أعلاه.

قراءات ذات صلة

• دليل البرامج المحلية — تصفّح 224 تطبيق ذكاء اصطناعي محلي وصفّها حسب الفئة.
• مقارنة أدوات الصوت والكلام المحلية — المقارنة نفسها لتحويل النص إلى كلام والكلام إلى نص والوكلاء الصوتيين.
• مقارنة أدوات الصور والفيديو والرؤية المحلية — المقارنة نفسها لتوليد الصور ونماذج الرؤية.