النقاط الرئيسية
- OpenLLM (github.com/bentoml/OpenLLM) خادم استدلال مجاني ومفتوح المصدر برخصة Apache-2.0، وليس تطبيق سطح مكتب يُنزَّل
- طوّرته BentoML وتتولى صيانته؛ تم إنشاء المستودع في 19 أبريل 2023
- يُثبَّت عبر
pip install openllm؛ يمكن تجربته بسرعة عبرopenllm hello - يقدّم أكثر من 15 عائلة نماذج مفتوحة الأوزان — Llama وDeepSeek وQwen2.5 وMistral وGemma وPhi وغيرها — خلف واجهة برمجية متوافقة مع OpenAI، وفق ملف README الرسمي
- يمكنه استخدام vLLM كخلفية استدلال، ويأتي بواجهة دردشة مدمجة عند نقطة النهاية
/chat - تُحل أسماء النماذج عبر المستودع المصاحب bentoml/openllm-models، مع دعم مستودعات مخصصة
openllm deployيوفر مسارًا اختياريًا ومدفوعًا بشكل منفصل نحو BentoCloud، منتج BentoML السحابي المُدار — وليس شرطًا لاستخدام OpenLLM- مستودع GitHub يُظهر نحو 12,535 نجمة و842 تفرعًا اعتبارًا من سبتمبر 2026
📍 في جملة واحدة
OpenLLM خادم استدلال مجاني ومفتوح المصدر (Apache-2.0) من BentoML، يشغّل نماذج لغوية مفتوحة الأوزان مثل Llama وDeepSeek وQwen خلف واجهة برمجية متوافقة مع OpenAI، يُثبَّت عبر pip install openllm، مع مسار مدفوع اختياري نحو استضافة BentoCloud المُدارة من BentoML.
💬 بعبارات بسيطة
OpenLLM أداة سطر أوامر، وليس تطبيقًا تُنزّله وتفتحه بنقرة — تُثبّته بأمر pip ثم تشغّل أمرًا واحدًا لبدء خادم محلي يمكن لبرامج أخرى (أو لك أنت) التواصل معه بنفس تنسيق طلبات واجهة OpenAI البرمجية. كل شيء يعمل على جهازك الخاص، ما لم تختر نشره على BentoCloud، منتج BentoML السحابي المدفوع بشكل منفصل.
📌ملاحظة: هذه المراجعة مكمّلة معمّقة لبطاقة OpenLLM في دليل برمجيات نماذج اللغة المحلية — راجع تلك الصفحة لمقارنة سريعة بين OpenLLM وعشرات أدوات الذكاء الاصطناعي المحلية الأخرى.
ما هو OpenLLM؟
OpenLLM خادم استدلال مبني بلغة Python يحوّل نموذجًا لغويًا مفتوح الأوزان إلى نقطة نهاية API متوافقة مع OpenAI بأمر واحد، طورته وتتولى صيانته BentoML. وصفه الخاص على GitHub يقول بوضوح: "Run any open-source LLMs, such as DeepSeek and Llama, as OpenAI compatible API endpoint in the cloud." وعلى الرغم من إشارة هذا الشعار إلى "in the cloud"، فإن الخادم نفسه يعمل في أي مكان يمكن فيه تشغيل Python — حاسوب محمول، أو جهاز GPU محلي، أو خادم افتراضي سحابي تتحكم فيه بنفسك؛ فالاستضافة الذاتية هي الوضع الافتراضي وليست إضافة لاحقة.
- نوع المنتج: أداة سطر أوامر ومكتبة Python، وليس تطبيقًا يُنزَّل للمستخدم النهائي — يُثبَّت عبر
pip install openllm - المطوّر: BentoML، الشركة التي تقف خلف إطار عمل BentoML لتقديم النماذج ومنتج الاستضافة المُدارة BentoCloud
- المستودع: github.com/bentoml/OpenLLM، أُنشئ في 19 أبريل 2023
- الترخيص: Apache-2.0، مؤكَّد عبر بيانات ترخيص المستودع
- الحجم: نحو 12,535 نجمة على GitHub و842 تفرعًا اعتبارًا من سبتمبر 2026
- مشروع مصاحب: bentoml/openllm-models، مستودع منفصل يضم تعريفات مستودع النماذج التي تعتمد عليها أداة سطر أوامر OpenLLM
تاريخ مشروع OpenLLM ومحطات الإصدارات
أُنشئ مستودع OpenLLM على GitHub في 19 أبريل 2023، ومرّ المشروع بإعادة كتابة كبرى وُصفت رسميًا بأنها تغيير جذري كاسر منتصف عام 2024، أعادت توجيهه من مجموعة أدوات تقديم قابلة للتخصيص بشكل كبير نحو أداة سطر أوامر أبسط تركز على النشر السحابي — وهي الشكل الذي توجد عليه الأداة اليوم.
- 1v0.1.0 — 12 يونيو 2023: أول إصدار موسوم
Why it matters: كانت أداة سطر الأوامر في هذه المرحلة تدور حول `openllm start <model-name>`، وهي صياغة أمر أقدم استبدلها المشروع منذ ذلك الحين بـ `openllm serve` و`openllm run`. - 2v0.5.0 — 27 مايو 2024: البنية قبل إعادة الكتابة
Why it matters: وفق سجل الإصدارات الرسمي، كان هذا آخر إصدار فرعي قبل أكبر تغيير بنيوي شهده OpenLLM. - 3v0.6.0 — 11 يوليو 2024: إعادة كتابة أُعلنت كتغيير جذري كاسر
Why it matters: تصف ملاحظات إصدار OpenLLM نفسها هذا الإصدار بأنه "a significant shift in our project's philosophy" — ابتعاد عن التخصيص المكثف للنشر الذي قال القائمون على المشروع إنه تسبب في توسع غير منضبط للنطاق، نحو أداة أبسط تركز على النشر السحابي. تُبنى أداة سطر الأوامر الحالية (`openllm serve`، `openllm deploy`) على هذه البنية. - 4إنشاء المستودع المصاحب openllm-models — 18 مايو 2024
Why it matters: فصلت BentoML تعريفات النماذج في مستودع مستقل ([bentoml/openllm-models](https://github.com/bentoml/openllm-models))، تعتمد عليه أداة سطر أوامر OpenLLM لتحديد أسماء نماذج مثل `llama3.2:1b`، ويدعم مستودعات مخصصة مستضافة ذاتيًا. - 5v0.6.30 — 21 أبريل 2025: أحدث إصدار موسوم
Why it matters: الإصدار المُدرَج حاليًا كأحدث إصدار على [PyPI](https://pypi.org/project/openllm/) وقت إعداد هذه المراجعة.
ماذا يمكنك أن تفعل بـ OpenLLM؟
تتمحور مزايا OpenLLM حول تحويل نموذج مفتوح الأوزان مُختار إلى خادم API يعمل ومتوافق مع OpenAI، مع طبقة إدارة للنماذج والمستودعات والنشر السحابي فوق ذلك. إليك ما يفعله كل جزء فعليًا، وفق ملف README الخاص بـ OpenLLM على GitHub.
- واجهة برمجية متوافقة مع OpenAI — يمكن الوصول إلى كل نموذج يقدّمه OpenLLM عبر نفس تنسيق الطلب/الاستجابة الخاص بواجهة OpenAI البرمجية، لذا يمكن لكود عميل OpenAI الحالي أن يشير إلى OpenLLM بدلًا من ذلك
- واجهة دردشة مدمجة — تتوفر واجهة دردشة عبر الويب عند نقطة النهاية
/chatفي الخادم المحلي (الافتراضيhttp://localhost:3000)، لاختبار نموذج دون كتابة أي كود عميل - دعم واسع للنماذج — أكثر من 15 عائلة نماذج مفتوحة الأوزان وفق ملف README نفسه، بما فيها Llama (3.1، 3.2، 3.3، 4)، وMistral (8B وLarge 123B)، وQwen (2.5 و2.5-Coder)، وGemma (2 و3)، وPhi (4)، وDeepSeek (R1)، وPixtral، وJamba، وQwQ
- خلفية استدلال vLLM — يدمج OpenLLM vLLM كخلفية استدلال متاحة، وفق وثائقه الرسمية، بدلًا من الاكتفاء بتقديم تنفيذ استدلال مبني من الصفر فقط
- نظام مستودع النماذج — تُحل أداة سطر الأوامر أسماء النماذج افتراضيًا مقابل bentoml/openllm-models، مع دعم مستودعات نماذج مخصصة مستضافة ذاتيًا عبر
openllm repo update - إدارة النماذج عبر سطر الأوامر — يعرض
openllm model listوopenllm model get <name>النماذج المتاحة وتفاصيلها دون مغادرة الطرفية - النشر عبر Docker وKubernetes — تغطي وثائق OpenLLM الرسمية مسارات نشر عبر الحاويات وKubernetes للاستضافة الذاتية، إلى جانب خيار BentoCloud
- نشر اختياري على BentoCloud — يدفع
openllm deploy <model> --env HF_TOKENنموذجًا إلى BentoCloud، منتج الاستضافة المُدارة المدفوع بشكل منفصل من BentoML، لاستضافة إنتاجية ذات تحجيم تلقائي
أمثلة استخدام: ثلاث طرق لاستخدام OpenLLM
هذه سير عمل ملموسة مبنية على أوامر سطر الأوامر الموثقة لـ OpenLLM أعلاه — وليست حالات استخدام افتراضية.
تثبيت OpenLLM
يُثبَّت OpenLLM مجانًا عبر pip، وشيفرته المصدرية موجودة على GitHub. بصفته أداة سطر أوامر ومكتبة Python — وليس تطبيقًا يُنزَّل للمستخدم النهائي — لا يوجد مثبِّت خاص بكل نظام تشغيل؛ يضم الجدول أدناه أمر التثبيت وروابط مرجعية، وفق النمط الذي يستخدمه هذا الموقع لموضوعات الأطر/أدوات سطر الأوامر.
أمر التثبيت (pip)
- الرابط:
pip install openllm
أمر البدء السريع
- الرابط:
openllm hello
مستودع GitHub (الشيفرة المصدرية، Apache-2.0)
- الرابط:
- github.com/bentoml/OpenLLM
حزمة PyPI
- الرابط:
- pypi.org/project/openllm
مستودع النماذج (bentoml/openllm-models)
الوثائق الرسمية وBentoCloud
- الرابط:
- bentoml.com
يتطلب OpenLLM طرفية وبيئة Python (عبر pip) — لا يوجد مثبِّت رسومي. تحتاج النماذج المقيدة على Hugging Face إلى متغير بيئة HF_TOKEN للتنزيل.
هل OpenLLM مجاني؟ OpenLLM مقابل أسعار BentoCloud
نعم — برنامج OpenLLM نفسه مجاني. فهو مرخّص برخصة Apache-2.0، وليس له طبقة مدفوعة خاصة به، ولا يفرض أي حد للاستخدام؛ ومستودع GitHub عام ويمكن تثبيته عبر pip دون حساب.
- لا اشتراك، ولا طبقة مدفوعة، ولا حدود استخدام يفرضها مشروع OpenLLM مفتوح المصدر نفسه
- لا حاجة لحساب أو تسجيل لتثبيت OpenLLM أو تشغيله محليًا
- تشغيل OpenLLM على عتادك الخاص (حاسوب محمول، خادم GPU محلي، أو خادم افتراضي سحابي تديره بنفسك) لا يكلّف سوى ما يكلّفه ذلك العتاد أو الحوسبة السحابية نفسها
- BentoCloud، منتج الاستضافة المُدارة المنفصل من BentoML، مدفوع — لا يعلن موقعه التسويقي عن أرقام تسعير ذاتية الخدمة، ويوجّه العملاء المحتملين بدلًا من ذلك إلى حجز عرض توضيحي، لذا تأكد من أي تكلفة محددة لـ BentoCloud مباشرة مع BentoML بدلًا من الاعتماد على تقدير من طرف ثالث
- اختيار BentoCloud أمر اختياري: فقط
openllm deployهو ما يتعامل معه، بينما تعمل كل أوامر OpenLLM الأخرى (serveوrunوmodel list) بالكامل على بنية تحتية تتحكم فيها بنفسك
OpenLLM مقابل vLLM
غالبًا ما يُذكر OpenLLM وvvLLM معًا، لكنهما يقعان في طبقتين مختلفتين من نفس المجموعة التقنية — إذ يمكن لـ OpenLLM استخدام vLLM كخلفية استدلال له، بدلًا من أن يكونا بديلين خالصين لبعضهما. vLLM محرك/مكتبة استدلال عالي الإنتاجية يركز على سرعة التقديم وكفاءة الذاكرة؛ أما OpenLLM فهو إطار عمل تقديم على مستوى أعلى، يغلّف خلفية استدلال (ومنها vLLM) بإدارة النماذج، وواجهة برمجية متوافقة مع OpenAI، وواجهة دردشة مدمجة، ومسار اختياري نحو النشر السحابي المُدار.
الدور الأساسي
- OpenLLM:
- إطار عمل تقديم على مستوى أعلى: إدارة نماذج + واجهة OpenAI البرمجية + نشر سحابي اختياري
- vLLM:
- محرك/مكتبة استدلال عالي الإنتاجية، مستقل أو مدمج داخل خوادم أخرى
خلفية الاستدلال
- OpenLLM:
- يدمج vLLM كإحدى الخلفيات المتاحة، وفق وثائقه الرسمية
- vLLM:
- هو نفسه محرك الاستدلال، مبني حول إدارة ذاكرة PagedAttention
إدارة النماذج عبر سطر الأوامر
- OpenLLM:
openllm model list،openllm repo update، اختصارات بأسماء النماذج- vLLM:
- في الأساس أمر تقديم (
vllm serve <model>)، مع أدوات كتالوج مدمجة أقل
واجهة دردشة مدمجة
- OpenLLM:
- نعم، عند نقطة النهاية
/chat - vLLM:
- لا توجد واجهة دردشة مدمجة؛ عادةً ما تُقرَن بواجهة أمامية منفصلة
مسار السحابة المُدارة
- OpenLLM:
openllm deployاختياري نحو BentoCloud (BentoML، مدفوع)- vLLM:
- لا يوجد منتج سحابي مُدار خاص به من المطوّر الأساسي
الجهة القائمة بالصيانة
- OpenLLM:
- BentoML
- vLLM:
- مشروع vLLM مفتوح المصدر — راجع مقال شرح vLLM للتفاصيل
إذا كانت أولويتك أعلى إنتاجية استدلال خام ممكنة كبنية أساسية داخل مجموعتك التقنية الخاصة، فقيّم vLLM مباشرة. أما إذا كانت أولويتك خادمًا على مستوى أعلى، متوافقًا مع OpenAI، مع إدارة نماذج ومسار نشر سحابي مُدار اختياري، فإن مجموعة مزايا OpenLLM هي الأوسع بين الاثنين — وهما ليسا متعارضين بالضرورة، إذ يمكن لـ OpenLLM أن يعمل فوق vLLM كخلفية له.
لمن يناسب OpenLLM؟
تعتمد ملاءمة OpenLLM على ما إذا كنت تريد طبقة تقديم مجانية وقابلة للاستضافة الذاتية ومتوافقة مع OpenAI، مع مخرج اختياري نحو سحابة مُدارة، بدلًا من مكتبة استدلال بسيطة أو تطبيق دردشة يُنزَّل.
المنافسون والبدائل
OpenLLM واحد من عدة أدوات تغلّف استدلال النماذج مفتوحة الأوزان خلف واجهة برمجية متوافقة مع OpenAI. إليك كيف يقف إلى جانب خيارات أخرى في قطاع خوادم الاستدلال — راجع دليل برمجيات نماذج اللغة المحلية للكتالوج الكامل، والمقارنة المخصصة OpenLLM مقابل vLLM أعلاه لأقرب مواجهة مباشرة.
- vLLM — محرك الاستدلال عالي الإنتاجية الذي يمكن لـ OpenLLM استخدامه كخلفية؛ قيّمه مباشرة إذا كانت إنتاجية التقديم الخام همّك الأساسي. راجع قسم المقارنة المخصص أعلاه.
- SGLang — محرك استدلال وإطار تقديم آخر عالي الأداء، غالبًا ما يُقارَن بـ vLLM من حيث الإنتاجية ومزايا التوليد المُهيكَل.
- LocalAI — خادم استدلال محلي مجاني ومفتوح المصدر ومتوافق مع OpenAI، بتركيز أوسع على تشغيل أنواع نماذج متعددة (نص، صورة، صوت) خلف واجهة برمجية واحدة.
- LiteLLM — وكيل/حزمة تطوير برمجيات (SDK) يقدّم واجهة موحدة متوافقة مع OpenAI عبر العديد من موفّري نماذج اللغة المختلفين والخلفيات المستضافة ذاتيًا، بما فيها OpenLLM نفسه.
أخطاء شائعة عند تقييم OpenLLM
معظم الالتباس حول OpenLLM ينشأ من علاقته بـ BentoCloud، وعلاقته بـ vLLM، أو افتراض أن أحدث إصدار موسوم له يعكس أحدث كود.
الأسئلة الشائعة
ما هو OpenLLM؟
OpenLLM (github.com/bentoml/OpenLLM) خادم استدلال مجاني ومفتوح المصدر برخصة Apache-2.0 من BentoML، يحوّل نموذجًا لغويًا مفتوح الأوزان إلى نقطة نهاية API متوافقة مع OpenAI بأمر واحد عبر سطر الأوامر.
هل OpenLLM مجاني؟
نعم. برنامج OpenLLM مجاني ومفتوح المصدر، دون طبقة مدفوعة خاصة به. BentoCloud، منتج الاستضافة المُدارة المنفصل من BentoML، مدفوع، لكن استخدامه اختياري — يعمل كل أمر أساسي في OpenLLM على بنية تحتية تتحكم فيها بنفسك.
ما الترخيص الذي يستخدمه OpenLLM؟
Apache-2.0، مؤكَّد عبر بيانات ترخيص مستودع GitHub.
هل يتطلب OpenLLM وجود BentoCloud؟
لا. تعمل openllm serve وopenllm run وopenllm model list بالكامل على عتادك الخاص. لا يدخل BentoCloud في الصورة إلا عند تشغيل openllm deploy، وهو مسار نشر اختياري ومدفوع بشكل منفصل.
ما النماذج التي يدعمها OpenLLM؟
وفق ملف README الرسمي، يدعم OpenLLM أكثر من 15 عائلة نماذج مفتوحة الأوزان، بما فيها Llama (3.1، 3.2، 3.3، 4)، وMistral (8B وLarge 123B)، وQwen (2.5 و2.5-Coder)، وGemma (2 و3)، وPhi (4)، وDeepSeek (R1)، وPixtral، وJamba، وQwQ، ويتم تحديدها عبر المستودع المصاحب openllm-models.
كيف أثبّت OpenLLM؟
شغّل pip install openllm، ثم جرّب openllm hello لبدء تفاعلي سريع، أو openllm serve <model-name> لتشغيل خادم محلي متوافق مع OpenAI.
هل يستخدم OpenLLM محرك vLLM؟
يمكنه ذلك. يدمج OpenLLM محرك vLLM كخلفية استدلال متاحة، وفق وثائقه الرسمية، بدلًا من الاكتفاء بتقديم تنفيذ استدلال مبني من الصفر فقط.
ما الفرق بين OpenLLM وvLLM؟
vLLM محرك/مكتبة استدلال عالي الإنتاجية؛ أما OpenLLM فهو إطار عمل تقديم على مستوى أعلى يغلّف خلفية استدلال (ومنها vLLM) بإدارة النماذج، وواجهة برمجية متوافقة مع OpenAI، وواجهة دردشة مدمجة، ومسار نشر سحابي مُدار اختياري. راجع المقارنة المخصصة OpenLLM مقابل vLLM أعلاه.
من يطوّر OpenLLM؟
BentoML، الشركة التي تطوّر أيضًا إطار عمل BentoML لتقديم النماذج ومنتج الاستضافة المُدارة BentoCloud. مؤسسة GitHub التي تستضيف كود OpenLLM هي bentoml.
هل يُصان OpenLLM بشكل نشط؟
أُنشئ المستودع في 19 أبريل 2023، ووفق واجهة برمجة تطبيقات GitHub، كان آخر دفع (push) له في 14 سبتمبر 2026، ما يشير إلى تطوير مستمر. أحدث إصدار موسوم له هو v0.6.30 (21 أبريل 2025) — وهي فجوة تشير إليها هذه المراجعة؛ تحقّق من حالة الإصدار الحالية مباشرة على GitHub أو PyPI.