ما هو OpenLLM؟
OpenLLM خادم استدلال مبني بلغة Python يحوّل نموذجًا لغويًا مفتوح الأوزان إلى نقطة نهاية API متوافقة مع OpenAI بأمر واحد، طورته وتتولى صيانته BentoML. وصفه الخاص على GitHub يقول بوضوح: "Run any open-source LLMs, such as DeepSeek and Llama, as OpenAI compatible API endpoint in the cloud." وعلى الرغم من إشارة هذا الشعار إلى "in the cloud"، فإن الخادم نفسه يعمل في أي مكان يمكن فيه تشغيل Python — حاسوب محمول، أو جهاز GPU محلي، أو خادم افتراضي سحابي تتحكم فيه بنفسك؛ فالاستضافة الذاتية هي الوضع الافتراضي وليست إضافة لاحقة.
- نوع المنتج: أداة سطر أوامر ومكتبة Python، وليس تطبيقًا يُنزَّل للمستخدم النهائي — يُثبَّت عبر
pip install openllm - المطوّر: BentoML، الشركة التي تقف خلف إطار عمل BentoML لتقديم النماذج ومنتج الاستضافة المُدارة BentoCloud
- المستودع: github.com/bentoml/OpenLLM، أُنشئ في 19 أبريل 2023
- الترخيص: Apache-2.0، مؤكَّد عبر بيانات ترخيص المستودع
- الحجم: نحو 12,535 نجمة على GitHub و842 تفرعًا اعتبارًا من سبتمبر 2026
- مشروع مصاحب: bentoml/openllm-models، مستودع منفصل يضم تعريفات مستودع النماذج التي تعتمد عليها أداة سطر أوامر OpenLLM
تاريخ مشروع OpenLLM ومحطات الإصدارات
أُنشئ مستودع OpenLLM على GitHub في 19 أبريل 2023، ومرّ المشروع بإعادة كتابة كبرى وُصفت رسميًا بأنها تغيير جذري كاسر منتصف عام 2024، أعادت توجيهه من مجموعة أدوات تقديم قابلة للتخصيص بشكل كبير نحو أداة سطر أوامر أبسط تركز على النشر السحابي — وهي الشكل الذي توجد عليه الأداة اليوم.
- 1v0.1.0 — 12 يونيو 2023: أول إصدار موسوم
Why it matters: كانت أداة سطر الأوامر في هذه المرحلة تدور حول `openllm start <model-name>`، وهي صياغة أمر أقدم استبدلها المشروع منذ ذلك الحين بـ `openllm serve` و`openllm run`. - 2v0.5.0 — 27 مايو 2024: البنية قبل إعادة الكتابة
Why it matters: وفق سجل الإصدارات الرسمي، كان هذا آخر إصدار فرعي قبل أكبر تغيير بنيوي شهده OpenLLM. - 3v0.6.0 — 11 يوليو 2024: إعادة كتابة أُعلنت كتغيير جذري كاسر
Why it matters: تصف ملاحظات إصدار OpenLLM نفسها هذا الإصدار بأنه "a significant shift in our project's philosophy" — ابتعاد عن التخصيص المكثف للنشر الذي قال القائمون على المشروع إنه تسبب في توسع غير منضبط للنطاق، نحو أداة أبسط تركز على النشر السحابي. تُبنى أداة سطر الأوامر الحالية (`openllm serve`، `openllm deploy`) على هذه البنية. - 4إنشاء المستودع المصاحب openllm-models — 18 مايو 2024
Why it matters: فصلت BentoML تعريفات النماذج في مستودع مستقل ([bentoml/openllm-models](https://github.com/bentoml/openllm-models))، تعتمد عليه أداة سطر أوامر OpenLLM لتحديد أسماء نماذج مثل `llama3.2:1b`، ويدعم مستودعات مخصصة مستضافة ذاتيًا. - 5v0.6.30 — 21 أبريل 2025: أحدث إصدار موسوم
Why it matters: الإصدار المُدرَج حاليًا كأحدث إصدار على [PyPI](https://pypi.org/project/openllm/) وقت إعداد هذه المراجعة.
ماذا يمكنك أن تفعل بـ OpenLLM؟
تتمحور مزايا OpenLLM حول تحويل نموذج مفتوح الأوزان مُختار إلى خادم API يعمل ومتوافق مع OpenAI، مع طبقة إدارة للنماذج والمستودعات والنشر السحابي فوق ذلك. إليك ما يفعله كل جزء فعليًا، وفق ملف README الخاص بـ OpenLLM على GitHub.
- واجهة برمجية متوافقة مع OpenAI — يمكن الوصول إلى كل نموذج يقدّمه OpenLLM عبر نفس تنسيق الطلب/الاستجابة الخاص بواجهة OpenAI البرمجية، لذا يمكن لكود عميل OpenAI الحالي أن يشير إلى OpenLLM بدلًا من ذلك
- واجهة دردشة مدمجة — تتوفر واجهة دردشة عبر الويب عند نقطة النهاية
/chatفي الخادم المحلي (الافتراضيhttp://localhost:3000)، لاختبار نموذج دون كتابة أي كود عميل - دعم واسع للنماذج — أكثر من 15 عائلة نماذج مفتوحة الأوزان وفق ملف README نفسه، بما فيها Llama (3.1، 3.2، 3.3، 4)، وMistral (8B وLarge 123B)، وQwen (2.5 و2.5-Coder)، وGemma (2 و3)، وPhi (4)، وDeepSeek (R1)، وPixtral، وJamba، وQwQ
- خلفية استدلال vLLM — يدمج OpenLLM vLLM كخلفية استدلال متاحة، وفق وثائقه الرسمية، بدلًا من الاكتفاء بتقديم تنفيذ استدلال مبني من الصفر فقط
- نظام مستودع النماذج — تُحل أداة سطر الأوامر أسماء النماذج افتراضيًا مقابل bentoml/openllm-models، مع دعم مستودعات نماذج مخصصة مستضافة ذاتيًا عبر
openllm repo update - إدارة النماذج عبر سطر الأوامر — يعرض
openllm model listوopenllm model get <name>النماذج المتاحة وتفاصيلها دون مغادرة الطرفية - النشر عبر Docker وKubernetes — تغطي وثائق OpenLLM الرسمية مسارات نشر عبر الحاويات وKubernetes للاستضافة الذاتية، إلى جانب خيار BentoCloud
- نشر اختياري على BentoCloud — يدفع
openllm deploy <model> --env HF_TOKENنموذجًا إلى BentoCloud، منتج الاستضافة المُدارة المدفوع بشكل منفصل من BentoML، لاستضافة إنتاجية ذات تحجيم تلقائي
أمثلة استخدام: ثلاث طرق لاستخدام OpenLLM
هذه سير عمل ملموسة مبنية على أوامر سطر الأوامر الموثقة لـ OpenLLM أعلاه — وليست حالات استخدام افتراضية.
تقديم نموذج محليًا كواجهة برمجية متوافقة مع OpenAI
ثبّت OpenLLM عبر pip install openllm، ثم شغّل openllm serve llama3.2:1b لتنزيل (عند الحاجة) وتشغيل ذلك النموذج خلف خادم محلي متوافق مع OpenAI، افتراضيًا على http://localhost:3000. وجّه أي مكتبة عميل OpenAI إلى ذلك العنوان، باستخدام أي نص عشوائي كمفتاح API، وستُخدَم الطلبات الموجهة إلى /v1/chat/completions بواسطة النموذج الذي شغّلته.
الدردشة مع نموذج مباشرة من الطرفية
شغّل openllm run llama3:8b لبدء جلسة دردشة تفاعلية في الطرفية مع نموذج، دون كتابة أي كود عميل أو فتح متصفح — مفيد لاختبار سلوك نموذج بسرعة قبل دمجه في تطبيق.
نشر نموذج على BentoCloud لاستضافة ذات تحجيم تلقائي
بمجرد امتلاكك حساب BentoCloud، ورمز Hugging Face للنماذج المقيدة عند الحاجة، يدفع openllm deploy llama3.2:1b --env HF_TOKEN النموذج إلى منتج BentoML السحابي المُدار بدلًا من تشغيل الخادم بنفسك — مفيد عندما لا يعد العتاد المحلي قادرًا على التعامل مع حركة مرور الإنتاج، على حساب الانتقال من الاستضافة الذاتية المجانية إلى الاستخدام المدفوع لـ BentoCloud.
تثبيت OpenLLM
يُثبَّت OpenLLM مجانًا عبر pip، وشيفرته المصدرية موجودة على GitHub. بصفته أداة سطر أوامر ومكتبة Python — وليس تطبيقًا يُنزَّل للمستخدم النهائي — لا يوجد مثبِّت خاص بكل نظام تشغيل؛ يضم الجدول أدناه أمر التثبيت وروابط مرجعية، وفق النمط الذي يستخدمه هذا الموقع لموضوعات الأطر/أدوات سطر الأوامر.
أمر التثبيت (pip)
- الرابط:
pip install openllm
أمر البدء السريع
- الرابط:
openllm hello
مستودع GitHub (الشيفرة المصدرية، Apache-2.0)
- الرابط:
- github.com/bentoml/OpenLLM
حزمة PyPI
- الرابط:
- pypi.org/project/openllm
مستودع النماذج (bentoml/openllm-models)
الوثائق الرسمية وBentoCloud
- الرابط:
- bentoml.com
يتطلب OpenLLM طرفية وبيئة Python (عبر pip) — لا يوجد مثبِّت رسومي. تحتاج النماذج المقيدة على Hugging Face إلى متغير بيئة HF_TOKEN للتنزيل.
هل OpenLLM مجاني؟ OpenLLM مقابل أسعار BentoCloud
نعم — برنامج OpenLLM نفسه مجاني. فهو مرخّص برخصة Apache-2.0، وليس له طبقة مدفوعة خاصة به، ولا يفرض أي حد للاستخدام؛ ومستودع GitHub عام ويمكن تثبيته عبر pip دون حساب.
- لا اشتراك، ولا طبقة مدفوعة، ولا حدود استخدام يفرضها مشروع OpenLLM مفتوح المصدر نفسه
- لا حاجة لحساب أو تسجيل لتثبيت OpenLLM أو تشغيله محليًا
- تشغيل OpenLLM على عتادك الخاص (حاسوب محمول، خادم GPU محلي، أو خادم افتراضي سحابي تديره بنفسك) لا يكلّف سوى ما يكلّفه ذلك العتاد أو الحوسبة السحابية نفسها
- BentoCloud، منتج الاستضافة المُدارة المنفصل من BentoML، مدفوع — لا يعلن موقعه التسويقي عن أرقام تسعير ذاتية الخدمة، ويوجّه العملاء المحتملين بدلًا من ذلك إلى حجز عرض توضيحي، لذا تأكد من أي تكلفة محددة لـ BentoCloud مباشرة مع BentoML بدلًا من الاعتماد على تقدير من طرف ثالث
- اختيار BentoCloud أمر اختياري: فقط
openllm deployهو ما يتعامل معه، بينما تعمل كل أوامر OpenLLM الأخرى (serveوrunوmodel list) بالكامل على بنية تحتية تتحكم فيها بنفسك
OpenLLM مقابل vLLM
غالبًا ما يُذكر OpenLLM وvvLLM معًا، لكنهما يقعان في طبقتين مختلفتين من نفس المجموعة التقنية — إذ يمكن لـ OpenLLM استخدام vLLM كخلفية استدلال له، بدلًا من أن يكونا بديلين خالصين لبعضهما. vLLM محرك/مكتبة استدلال عالي الإنتاجية يركز على سرعة التقديم وكفاءة الذاكرة؛ أما OpenLLM فهو إطار عمل تقديم على مستوى أعلى، يغلّف خلفية استدلال (ومنها vLLM) بإدارة النماذج، وواجهة برمجية متوافقة مع OpenAI، وواجهة دردشة مدمجة، ومسار اختياري نحو النشر السحابي المُدار.
الدور الأساسي
- OpenLLM:
- إطار عمل تقديم على مستوى أعلى: إدارة نماذج + واجهة OpenAI البرمجية + نشر سحابي اختياري
- vLLM:
- محرك/مكتبة استدلال عالي الإنتاجية، مستقل أو مدمج داخل خوادم أخرى
خلفية الاستدلال
- OpenLLM:
- يدمج vLLM كإحدى الخلفيات المتاحة، وفق وثائقه الرسمية
- vLLM:
- هو نفسه محرك الاستدلال، مبني حول إدارة ذاكرة PagedAttention
إدارة النماذج عبر سطر الأوامر
- OpenLLM:
openllm model list،openllm repo update، اختصارات بأسماء النماذج- vLLM:
- في الأساس أمر تقديم (
vllm serve <model>)، مع أدوات كتالوج مدمجة أقل
واجهة دردشة مدمجة
- OpenLLM:
- نعم، عند نقطة النهاية
/chat - vLLM:
- لا توجد واجهة دردشة مدمجة؛ عادةً ما تُقرَن بواجهة أمامية منفصلة
مسار السحابة المُدارة
- OpenLLM:
openllm deployاختياري نحو BentoCloud (BentoML، مدفوع)- vLLM:
- لا يوجد منتج سحابي مُدار خاص به من المطوّر الأساسي
الجهة القائمة بالصيانة
- OpenLLM:
- BentoML
- vLLM:
- مشروع vLLM مفتوح المصدر — راجع مقال شرح vLLM للتفاصيل
إذا كانت أولويتك أعلى إنتاجية استدلال خام ممكنة كبنية أساسية داخل مجموعتك التقنية الخاصة، فقيّم vLLM مباشرة. أما إذا كانت أولويتك خادمًا على مستوى أعلى، متوافقًا مع OpenAI، مع إدارة نماذج ومسار نشر سحابي مُدار اختياري، فإن مجموعة مزايا OpenLLM هي الأوسع بين الاثنين — وهما ليسا متعارضين بالضرورة، إذ يمكن لـ OpenLLM أن يعمل فوق vLLM كخلفية له.
لمن يناسب OpenLLM؟
تعتمد ملاءمة OpenLLM على ما إذا كنت تريد طبقة تقديم مجانية وقابلة للاستضافة الذاتية ومتوافقة مع OpenAI، مع مخرج اختياري نحو سحابة مُدارة، بدلًا من مكتبة استدلال بسيطة أو تطبيق دردشة يُنزَّل.
استخدم OpenLLM إذا كنت
- تريد خادم استدلال مجاني ومفتوح المصدر (Apache-2.0) وقابل للاستضافة الذاتية لنماذج مفتوحة الأوزان خلف واجهة برمجية متوافقة مع OpenAI
- تريد الانتقال من اسم نموذج إلى خادم API يعمل بأمر واحد فقط عبر سطر الأوامر، بدلًا من بناء مجموعة تقديم خاصة بك
- تريد خيار التوسع لاحقًا نحو سحابة BentoML المُدارة، دون تغيير إطار عمل التقديم
- مرتاح للعمل من الطرفية وبيئة Python، بدلًا من البحث عن تطبيق سطح مكتب رسومي
- تريد واجهة دردشة مدمجة لاختبار نموذج بسرعة، دون كتابة كود عميل أولًا
ابحث عن بديل إذا كنت
- تريد تطبيق دردشة رسومي يُنزَّل ويُستخدم بالنقر — فـ OpenLLM أداة سطر أوامر/مكتبة، وليس تطبيقًا للمستخدم النهائي؛ راجع مراجعات عملاء الدردشة في قسم المنافسين أدناه
- تحتاج إلى أعلى إنتاجية استدلال خام ممكنة كبنية أساسية داخل مجموعتك التقنية الخاصة — قيّم vLLM مباشرة بدلًا من عبر غلاف OpenLLM
- تحتاج إلى دعم مؤسسي رسمي واتفاقية مستوى خدمة (SLA) مدمجين في الأداة المجانية مفتوحة المصدر نفسها، بدلًا من عبر علاقة مدفوعة منفصلة مع BentoCloud
- لا ترتاح للفجوة التي رصدتها هذه المراجعة بين أحدث إصدار موسوم لـ OpenLLM (أبريل 2025) ونشاط التزاماته اللاحق على GitHub — تحقّق من حالة الإصدار الحالية قبل الالتزام بجدول زمني للإنتاج
- تحتاج إلى إدارة فريق متعددة المستخدمين أو تسجيل دخول موحد (SSO) مدمجَين في المشروع مفتوح المصدر نفسه، بدلًا من عبر عرض BentoCloud المُدار
المنافسون والبدائل
OpenLLM واحد من عدة أدوات تغلّف استدلال النماذج مفتوحة الأوزان خلف واجهة برمجية متوافقة مع OpenAI. إليك كيف يقف إلى جانب خيارات أخرى في قطاع خوادم الاستدلال — راجع دليل برمجيات نماذج اللغة المحلية للكتالوج الكامل، والمقارنة المخصصة OpenLLM مقابل vLLM أعلاه لأقرب مواجهة مباشرة.
- vLLM — محرك الاستدلال عالي الإنتاجية الذي يمكن لـ OpenLLM استخدامه كخلفية؛ قيّمه مباشرة إذا كانت إنتاجية التقديم الخام همّك الأساسي. راجع قسم المقارنة المخصص أعلاه.
- SGLang — محرك استدلال وإطار تقديم آخر عالي الأداء، غالبًا ما يُقارَن بـ vLLM من حيث الإنتاجية ومزايا التوليد المُهيكَل.
- LocalAI — خادم استدلال محلي مجاني ومفتوح المصدر ومتوافق مع OpenAI، بتركيز أوسع على تشغيل أنواع نماذج متعددة (نص، صورة، صوت) خلف واجهة برمجية واحدة.
- LiteLLM — وكيل/حزمة تطوير برمجيات (SDK) يقدّم واجهة موحدة متوافقة مع OpenAI عبر العديد من موفّري نماذج اللغة المختلفين والخلفيات المستضافة ذاتيًا، بما فيها OpenLLM نفسه.
أخطاء شائعة عند تقييم OpenLLM
معظم الالتباس حول OpenLLM ينشأ من علاقته بـ BentoCloud، وعلاقته بـ vLLM، أو افتراض أن أحدث إصدار موسوم له يعكس أحدث كود.
الخطأ 1: افتراض أن OpenLLM يتطلب BentoCloud
تعمل أوامر OpenLLM الأساسية (openllm serve، openllm run، openllm model list) بالكامل على بنية تحتية تتحكم فيها بنفسك. لا يدخل BentoCloud في الصورة إلا إذا شغّلت openllm deploy تحديدًا — وهو وجهة نشر اختيارية ومدفوعة بشكل منفصل، وليست شرطًا لاستخدام الخادم مفتوح المصدر.
الخطأ 2: التعامل مع OpenLLM وvLLM كبديلين خالصين
OpenLLM إطار عمل تقديم على مستوى أعلى يمكنه استخدام vLLM كخلفية استدلال له، وفق وثائقه الرسمية — فهما يعملان في طبقتين مختلفتين من نفس المجموعة التقنية بدلًا من كونهما بديلين قابلين للتبادل. راجع المقارنة المخصصة OpenLLM مقابل vLLM أعلاه.
الخطأ 3: افتراض أن أحدث وسم على PyPI يعكس أحدث كود
وجدت هذه المراجعة فجوة بين أحدث إصدار موسوم لـ OpenLLM (v0.6.30، 21 أبريل 2025) وأحدث دفع (push) له على GitHub (14 سبتمبر 2026، وفق واجهة برمجة تطبيقات GitHub). تحقّق من حالة الإصدار الحالية مباشرة على GitHub أو PyPI قبل افتراض تكافؤ المزايا مع أحدث الالتزامات.
الخطأ 4: الخلط بين OpenLLM وBentoML وBentoCloud باعتبارها منتجًا واحدًا
OpenLLM هو المشروع المجاني ومفتوح المصدر؛ وBentoML هي الشركة التي تطوّره وتصونه؛ وBentoCloud هو منتج BentoML المنفصل والمدفوع للاستضافة المُدارة. هي مترابطة لكنها متمايزة — استخدام OpenLLM لا يتطلب BentoCloud، وBentoCloud نفسه ليس مفتوح المصدر.
الأسئلة الشائعة
ما هو OpenLLM؟
OpenLLM (github.com/bentoml/OpenLLM) خادم استدلال مجاني ومفتوح المصدر برخصة Apache-2.0 من BentoML، يحوّل نموذجًا لغويًا مفتوح الأوزان إلى نقطة نهاية API متوافقة مع OpenAI بأمر واحد عبر سطر الأوامر.
هل OpenLLM مجاني؟
نعم. برنامج OpenLLM مجاني ومفتوح المصدر، دون طبقة مدفوعة خاصة به. BentoCloud، منتج الاستضافة المُدارة المنفصل من BentoML، مدفوع، لكن استخدامه اختياري — يعمل كل أمر أساسي في OpenLLM على بنية تحتية تتحكم فيها بنفسك.
ما الترخيص الذي يستخدمه OpenLLM؟
Apache-2.0، مؤكَّد عبر بيانات ترخيص مستودع GitHub.
هل يتطلب OpenLLM وجود BentoCloud؟
لا. تعمل openllm serve وopenllm run وopenllm model list بالكامل على عتادك الخاص. لا يدخل BentoCloud في الصورة إلا عند تشغيل openllm deploy، وهو مسار نشر اختياري ومدفوع بشكل منفصل.
ما النماذج التي يدعمها OpenLLM؟
وفق ملف README الرسمي، يدعم OpenLLM أكثر من 15 عائلة نماذج مفتوحة الأوزان، بما فيها Llama (3.1، 3.2، 3.3، 4)، وMistral (8B وLarge 123B)، وQwen (2.5 و2.5-Coder)، وGemma (2 و3)، وPhi (4)، وDeepSeek (R1)، وPixtral، وJamba، وQwQ، ويتم تحديدها عبر المستودع المصاحب openllm-models.
كيف أثبّت OpenLLM؟
شغّل pip install openllm، ثم جرّب openllm hello لبدء تفاعلي سريع، أو openllm serve <model-name> لتشغيل خادم محلي متوافق مع OpenAI.
هل يستخدم OpenLLM محرك vLLM؟
يمكنه ذلك. يدمج OpenLLM محرك vLLM كخلفية استدلال متاحة، وفق وثائقه الرسمية، بدلًا من الاكتفاء بتقديم تنفيذ استدلال مبني من الصفر فقط.
ما الفرق بين OpenLLM وvLLM؟
vLLM محرك/مكتبة استدلال عالي الإنتاجية؛ أما OpenLLM فهو إطار عمل تقديم على مستوى أعلى يغلّف خلفية استدلال (ومنها vLLM) بإدارة النماذج، وواجهة برمجية متوافقة مع OpenAI، وواجهة دردشة مدمجة، ومسار نشر سحابي مُدار اختياري. راجع المقارنة المخصصة OpenLLM مقابل vLLM أعلاه.
من يطوّر OpenLLM؟
BentoML، الشركة التي تطوّر أيضًا إطار عمل BentoML لتقديم النماذج ومنتج الاستضافة المُدارة BentoCloud. مؤسسة GitHub التي تستضيف كود OpenLLM هي bentoml.
هل يُصان OpenLLM بشكل نشط؟
أُنشئ المستودع في 19 أبريل 2023، ووفق واجهة برمجة تطبيقات GitHub، كان آخر دفع (push) له في 14 سبتمبر 2026، ما يشير إلى تطوير مستمر. أحدث إصدار موسوم له هو v0.6.30 (21 أبريل 2025) — وهي فجوة تشير إليها هذه المراجعة؛ تحقّق من حالة الإصدار الحالية مباشرة على GitHub أو PyPI.