ما هي mlxcel؟
mlxcel هي بيئة تشغيل استدلال أصلية — أداة سطر أوامر وخادم في آنٍ واحد — لتشغيل نماذج الذكاء الاصطناعي محليًا دون مُفسِّر Python في مسار الطلب. يصفها ملف README الخاص بها على GitHub بأنها توفّر "استدلالًا عالي الأداء لنماذج اللغة الكبيرة، ونماذج الرؤية واللغة، والتضمينات، وإعادة الترتيب، والصوت لأنظمة Apple Silicon وNVIDIA CUDA"، ويتم تنفيذها عبر "ارتباطات MLX C++ أصلية".
- نوع المنتج: أداة سطر أوامر أصلية بلغة Rust (
mlxcel) وخادم (mlxcel-server)، يُوزَّعان كملفات ثنائية مُجمَّعة عبر Homebrew أو تُبنيان من الشيفرة المصدرية — وليسا حزمة Python ولا تطبيق سطح مكتب رسوميًا - الجهة المطوِّرة: Lablup Inc.، شركة معروفة أيضًا بمنصة Backend.AI، منصة مفتوحة المصدر للبنية التحتية للذكاء الاصطناعي وMLOps
- المستودع: github.com/lablup/mlxcel، المشروع الأصلي — توجد عدة نسخ متفرعة (forks) بالاسم نفسه تحت أسماء مستخدمين أخرى على GitHub، وتُدرِج جميعها هذا المستودع كمصدرها الأصلي
- الترخيص: Apache 2.0، مؤكَّد من ملف LICENSE في المستودع
- منتج مكمِّل: Backend.AI Go، يصفه ملف README الخاص بـ mlxcel بأنه واجهة رسومية مكمِّلة اختيارية للمحادثة المحلية وإدارة النماذج، ويمكن أن تعمل فوق
mlxcel-server
تاريخ المشروع
يوثِّق ملف README الخاص بـ mlxcel تاريخ إصداراته عبر ملف CHANGELOG، ويصف الفرع main الحالي بأنه الإصدار v0.7.0 إضافة إلى أعمال لم تُنشر بعد. مرّ المشروع بسلسلة من الإصدارات الموسومة (tagged)، مضيفًا أهدافًا منصّية وميزات خدمة على مر الوقت، وفقًا لسجل التغييرات وملف README الخاصين به.
- 1الإصدارات المبكرة (حتى v0.0.28) — استدلال بأولوية لـ Apple Silicon
Why it matters: يشير ملف README الخاص بالمشروع إلى حملة قياس أداء (benchmark) سابقة (مؤرَّخة في نص README نفسه بمايو 2026) نُفِّذت على mlxcel 0.0.28، ما يدل على أن المشروع كان لديه بالفعل قياس أداء وظيفي لفك ترميز النص وملء السياق المسبق (prefill) في إصداراته المبكرة المنشورة. - 2v0.6.0 — فك ترميز تخميني (speculative decoding) مع سياسة دقة
Why it matters: وفقًا لـ README، أدخل هذا الإصدار سياسة تفحص الدقة الجشعة (greedy exactness) قبل تفعيل مسارات فك الترميز التخميني الأسرع، بدلًا من استخدام أسرع نواة (kernel) متاحة دائمًا بغض النظر عن صحة الناتج. - 3v0.7.0 — الأساس الحالي للإصدار
Why it matters: يصف README هذا الإصدار بأنه أحدث إصدار موسوم وقت إعداد هذه المراجعة، مع دعم بنية DeepSeek-V4، وتوافق موسّع لمسارات llama-server، وإصلاحات لنوع البيانات (dtype) حسّنت أداء الدقة النصفية على عدة عائلات من النماذج. - 4الفرع
mainغير المنشور — دعم تجريبي لـ AMD ROCm
Why it matters: وقت إعداد هذه المراجعة، يتوفر دعم وحدات معالجة الرسوميات AMD عبر `--features rocm` في الفرع `main`، لكنه لم يُدرَج بعد ضمن إصدار موسوم، وفقًا لقسم "Current main highlights" في README نفسه.
ماذا يمكنك أن تفعل باستخدام mlxcel؟
تتمحور مجموعة ميزات mlxcel حول تشغيل مجموعة واسعة من أنواع النماذج بشكل أصلي، مع أدوات تحكم في الخدمة موجَّهة للإنتاج. إليك ما يفعله كل جزء فعليًا، وفقًا لملف README الخاص بالمشروع نفسه.
- تحميل نقاط التفتيش مباشرة — تحمِّل نقاط تفتيش MLX SafeTensors مباشرةً من Hugging Face، بما في ذلك منظمة
mlx-community، وتحمَّل أيضًا العديد من نقاط تفتيش التضمين القياسية بصيغة SafeTensors دون خطوة تحويل - توافق API متعدد الصيغ — توفّر مسارات متوافقة مع OpenAI (Chat Completions وCompletions وResponses وEmbeddings وReranking وAudio)، وAnthropic Messages، وVertex AI، إضافة إلى واجهة مسارات وأعلام أصلية موثّقة ومتوافقة مع
llama-server، مثبّتة على إصدار محدد من المشروع المصدر - تغطية واسعة للبنيات — محوّلات (transformers) كثيفة، ونماذج مزيج خبراء متناثرة (Sparse MoE)، ونماذج فضاء الحالة الهجينة، ونماذج الرؤية واللغة/التعرف الضوئي على الحروف (OCR)، والتضمينات، ومُعيدات الترتيب، وتحويل الكلام إلى نص، وتحويل النص إلى كلام، ويمكن الاستعلام عنها عبر الأمر
mlxcel arch - توجيه متعدد النماذج — يكتشف وضع الموجِّه (router) نقاط التفتيش من مخزن نماذج أو دليل، ويحمّلها عند الطلب، ويحدّ من المجموعة المقيمة في الذاكرة بسياسة إخلاء الأقل استخدامًا مؤخرًا (LRU)
- محوّلات LoRA حيّة — وفقًا لـ README، يمكن أن تبقى عدة محوّلات LoRA غير مدمجة للتبديل حسب كل طلب، أو تُدمَج لتحقيق عبء تشغيلي صفري في فك الترميز
- فك ترميز تخميني — فك ترميز تخميني مقاس ومُتحقَّق من دقته لعدة عائلات من النماذج (بما في ذلك مسارات Gemma وQwen وGLM-4.7-Flash MTP)، متاح عبر نقطة نهاية
/v1/internal/mtp-policy - أدوات تحكم تشغيلية — تهيئة مفاتيح API وCORS/TLS، وتعليق/إيقاظ النماذج الخاملة، وقواعد GBNF النحوية، وأدوات تحكم موسّعة لأخذ العينات (sampling)، ومراقبة الطلبات والتخزين المؤقت
- تعديل نماذج قابل لإعادة الإنتاج — تعديلات أوزان عند التحميل مُعرَّفة بصيغة YAML (
scaleوَaddوَpruneوَreplaceوَinterpolate) عبر علم--surgery، لتعديل نقاط التفتيش بشكل قابل لإعادة الإنتاج دون تحرير الأوزان يدويًا
أمثلة على الاستخدام: ثلاث طرق لاستخدام mlxcel
هذه سير عمل ملموسة مبنية على ميزات mlxcel الموثّقة أعلاه، باستخدام أوامر من ملف README الخاص بالمشروع نفسه.
الدردشة التفاعلية مع نموذج من الطرفية (terminal)
نفِّذ الأمر mlxcel run Qwen3.5-0.8B-4bit لتنزيل النموذج عند أول استخدام وبدء واجهة دردشة تفاعلية (REPL) مباشرة في الطرفية — دون عملية خادم أو عميل منفصل، وفقًا للبدء السريع الموثَّق في README.
تشغيل خادم متوافق مع OpenAI واستدعاؤه باستخدام curl
نفِّذ الأمر mlxcel-server -m Qwen3.5-0.8B-4bit --port 8080 لتشغيل الخادم، ثم أرسل طلبًا باستخدام `curl http://localhost:8080/v1/chat/completions -H 'Content-Type: application/json' -d '{"model":"Qwen3.5-0.8B-4bit","messages":[{"role":"user","content":"Hello"}]}'` — وهو نفس شكل الطلب المستخدم مع واجهة OpenAI نفسها.
التحقق مما إذا كان النموذج يناسب جهازك قبل تنزيله
نفِّذ الأمر mlxcel inspect -m Qwen3.5-0.8B-4bit --max-tokens 32768 للحصول على تقدير ذاكرة للقراءة فقط يغطي أوزان النموذج وذاكرة التخزين المؤقت KV وذاكرة التنشيط، أو أضف --json للحصول على تقدير قابل للقراءة آليًا يمكن لسكربت مقارنته بالذاكرة المتاحة قبل بدء التنزيل.
تثبيت mlxcel
تُثبَّت mlxcel مجانًا عبر Homebrew على macOS وLinux، وشيفرتها المصدرية متاحة على GitHub للبناء من المصدر. بصفتها أداة سطر أوامر وخادم موجّهة للمطورين، لا يوجد مثبِّت رسومي.
المصدر | الرابط |
|---|---|
| مستودع GitHub (الشيفرة المصدرية، Apache 2.0) | github.com/lablup/mlxcel |
| التثبيت عبر Homebrew | brew tap lablup/tap && brew install mlxcel |
| البناء من المصدر (Apple Silicon) | cargo build --release --features metal,accelerate |
| البناء من المصدر (NVIDIA CUDA) | cargo build --release --features cuda |
| الوثائق | docs/installation.md |
تُثبِّت صيغة Homebrew (formula) أحدث إصدار موسوم. البناء من الشيفرة المصدرية مطلوب للميزات الأحدث غير المنشورة بعد (مثل دعم AMD ROCm التجريبي) ولأهداف CUDA أو ROCm، وفقًا لملف README الخاص بالمشروع. تتطلب عمليات البناء من المصدر لأجهزة Apple Silicon توفر Rust، وأدوات سطر أوامر Xcode، وCMake، ومكوّن سلسلة أدوات Metal.
أسعار mlxcel: هل mlxcel مجانية حقًا؟
نعم — لا تحتوي mlxcel على أي خطة مدفوعة. تُوزَّع كمشروع مجاني مفتوح المصدر مرخّص بموجب Apache 2.0، دون حساب أو مفتاح ترخيص أو حد للاستخدام. لا تحتوي مستودع GitHub على صفحة تسعير.
- لا توجد أي تكلفة لتثبيت mlxcel أو تشغيلها بذاتها — سواء صيغة Homebrew أو البناء من المصدر، كلاهما مجاني
- يسمح ترخيص Apache 2.0 بالاستخدام التجاري والتعديل وإعادة التوزيع، بشرط الالتزام بالشروط القياسية للترخيص (نسب المصدر والاحتفاظ بإشعار الترخيص)
- التكلفة الحقيقية الوحيدة هي الجهاز اللازم لتشغيلها (جهاز Mac بمعالج Apple Silicon أو وحدة معالجة رسومية مزوَّدة بـ CUDA) ومساحة القرص للنماذج التي تُنزَّل بشكل منفصل
- تبيع Lablup، الشركة التي تقف خلف mlxcel، أيضًا Backend.AI كمنتج تجاري للبنية التحتية للذكاء الاصطناعي، لكن هذه المراجعة لم تجد أي دليل على أن أي ميزة في mlxcel مقيّدة بشراء Backend.AI — التطبيق المكمِّل الاختياري Backend.AI Go موصوف في README الخاص بـ mlxcel بأنه واجهة رسومية منفصلة واختيارية، وليس شرطًا
mlxcel مقابل llama.cpp
mlxcel وَllama.cpp كلاهما بيئتا تشغيل استدلال أصليتان (غير Python)، لكنهما تختلفان في اللغة، والتركيز على المنصة الأساسية، وصيغة نقاط التفتيش. llama.cpp مشروع بلغتي C/C++ يدعم أوسع نطاق من الأجهزة والنماذج المُكمَّاة بصيغة GGUF؛ أما mlxcel فهو مشروع بلغة Rust يركّز على نقاط تفتيش MLX SafeTensors، مع Apple Silicon كهدف أساسي وتوافق موثَّق لمسارات llama-server لتسهيل الاستبدال المباشر.
اللغة
- mlxcel:
- Rust
- llama.cpp:
- C/C++
صيغة نقاط التفتيش الأساسية
- mlxcel:
- MLX SafeTensors
- llama.cpp:
- GGUF
المنصة الأساسية
- mlxcel:
- Apple Silicon (Metal)، وCUDA كهدف ثانوي
- llama.cpp:
- أوسع دعم للأجهزة: CPU وCUDA وMetal وVulkan والمزيد
الجهة المُشرِفة
- mlxcel:
- Lablup (شركة Backend.AI)
- llama.cpp:
- يُشرِف عليه المجتمع، وأنشأه في الأصل Georgi Gerganov
توافق API
- mlxcel:
- OpenAI وAnthropic وVertex، إضافة إلى مسارات متوافقة مع llama-server
- llama.cpp:
- خادمه الخاص
llama-serverهو التطبيق المرجعي الذي تسعى mlxcel للتوافق معه
هذه مقارنة ميزات واقعية مبنية على وثائق كل مشروع بذاته، وليست قياس أداء (benchmark) أجرته PromptQuorum لأي من الأداتين. تستهدف mlxcel صراحة التوافق مع واجهة مسارات llama-server الخاصة بـ llama.cpp، وفقًا لبيان التوافق b10621 الموثَّق الخاص بها، بدلًا من تقديم نفسها كبديل غير مرتبط.
من يجب أن يستخدم mlxcel؟
تناسب mlxcel المطورين الذين يريدون بيئة تشغيل استدلال أصلية موجَّهة للإنتاج دون اعتماد على Python في مسار الخدمة.
استخدم mlxcel إذا كنت
- تريد بيئة تشغيل استدلال أصلية (Rust) دون مُفسِّر أو بيئة Python يجب تجهيزهما في مسار النشر لديك
- تملك جهاز Mac بمعالج Apple Silicon أو جهاز Linux مزوَّد بـ NVIDIA CUDA، وتريد بيئة تشغيل واحدة تغطي نماذج اللغة الكبيرة ونماذج الرؤية واللغة والتضمينات وإعادة الترتيب والصوت
- تُشغِّل بالفعل أدوات مقابل واجهة
llama-serverوتريد سطح توافق موثّقًا ومثبّتًا على إصدار محدد، بدلًا من تخمين مدى التكافؤ - تحتاج إلى توجيه متعدد النماذج مع تحميل/إخلاء تلقائي، أو تبديل محوّلات LoRA الحية، لنشر خدمة معينة
- تريد أداة مدعومة من شركة (Lablup) لديها منتج بنية تحتية تجاري قائم، بدلًا من مشروع يديره مُشرِف واحد
ابحث في مكان آخر إذا كنت
- تحتاج إلى دعم AMD ROCm في بيئة الإنتاج اليوم — فهو موصوف صراحة بأنه تجريبي ومتاح فقط عبر البناء من الشيفرة المصدرية
- تريد أوسع توافق ممكن مع الأجهزة (معالجات أقدم، أو وحدات معالجة رسومية غير CUDA/Metal) — يدعم llama.cpp مصفوفة أجهزة أوسع
- تفضّل تطبيق دردشة رسوميًا لسطح المكتب بدلًا من أداة سطر أوامر وخادم تُعِدّهما بنفسك — راجع بدلًا من ذلك Jan أو GPT4All
- تريد مكتبة أصلية بلغة Python للبرمجة النصية والضبط الدقيق (fine-tuning) بدلًا من ملف ثنائي مُجمَّع بلغة Rust — mlx-lm أنسب لهذه الحالة
أخطاء شائعة عند تقييم mlxcel
ينشأ معظم اللبس حول mlxcel من افتراض أن دعمها للمنصات أو صيغة نقاط التفتيش أوسع مما هو موثَّق.
الخطأ الأول: افتراض أن دعم AMD ROCm جاهز للإنتاج
يصف README دعم ROCm صراحة بأنه تجريبي ومتاح فقط عبر البناء من الشيفرة المصدرية، مع رجوع بعض النوى المدمجة إلى مسارات تنفيذ أبطأ، وثغرات معروفة موثَّقة في دليل التثبيت.
الخطأ الثاني: الخلط بين هذا المستودع ونسخ متفرعة أخرى تحمل نفس اسم "mlxcel"
توجد عدة نسخ متفرعة بالاسم نفسه تحت أسماء مستخدمين أخرى على GitHub. تغطي هذه المراجعة تحديدًا github.com/lablup/mlxcel، المشروع الأصلي، وهو أمر تؤكده حقيقة أن النسخ الأخرى تُدرِجه كمصدرها.
الخطأ الثالث: توقّع دعم نقاط تفتيش GGUF
تُحمِّل mlxcel نقاط تفتيش MLX SafeTensors، وليس صيغة GGUF المستخدمة في llama.cpp والعديد من الأدوات على طراز Ollama. تحقّق من أن النموذج منشور بصيغة MLX (عادة تحت منظمة mlx-community على Hugging Face) قبل افتراض أنه سيُحمَّل.
الخطأ الرابع: التعامل مع مقارنات الأداء التي نشرتها mlxcel بنفسها باعتبارها موثَّقة بشكل مستقل
أرقام الأداء مقابل mlx-lm وmlx-vlm في README الخاص بـ mlxcel قِيست من قِبَل المشروع نفسه، على جهاز محدد وقائمة نماذج محددة. أعِد إجراء المقارنة على جهازك ونقاط تفتيشك الخاصة قبل التعامل مع أي نسبة منشورة كضمان لنموذج معين.
المنافسون والبدائل
تقع mlxcel في نفس شريحة خوادم الاستدلال الخاصة بـ Apple Silicon وبيئات التشغيل الأصلية إلى جانب vllm-mlx وoMLX وRapid-MLX — مشاريع مستقلة تُشغِّل نماذج محلية بواجهة API متوافقة مع OpenAI أو مشابهة لها، وتختلف بشكل أساسي في اللغة (Rust مقابل Python)، واتساع دعم المنصات، والتركيز على الميزات.
الأداة | أشهر ما يميزها | الرابط |
|---|---|---|
| vllm-mlx | تجميع مستمر (continuous batching) على طراز vLLM لأجهزة Apple Silicon، مبني على Python | vllm-mlx Review |
| oMLX | خادم استدلال لأجهزة Apple Silicon مع تخزين مؤقت للطلبات مدعوم بـ SSD | oMLX Review |
| Rapid-MLX | خادم استدلال MLX أصلي يركّز على سرعة الخدمة | Rapid-MLX Review |
| LoRAX | خدمة آلاف من محوّلات LoRA من نموذج أساسي واحد على وحدة معالجة رسومية واحدة | LoRAX Review |
تعكس هذه القائمة أدوات تُقارَن عادةً في مجال محركات الاستدلال الخاصة بـ Apple Silicon والبيئات الأصلية، وليست تصنيفًا مستقلًا من PromptQuorum — تحقّق من مجموعة الميزات الحالية لكل أداة قبل الاختيار.
الأسئلة الشائعة
ما هي mlxcel؟
mlxcel (github.com/lablup/mlxcel) هي أداة سطر أوامر وخادم استدلال مجانيان ومفتوحا المصدر (Apache 2.0)، مكتوبان بلغة Rust أصلية لنماذج اللغة الكبيرة ونماذج الرؤية واللغة والتضمينات ومُعيدات الترتيب والصوت، طوّرتهما Lablup.
من يصنع mlxcel؟
Lablup Inc.، الشركة المعروفة أيضًا بمنصة البنية التحتية للذكاء الاصطناعي وMLOps المسماة Backend.AI.
هل mlxcel مجانية؟
نعم. تُثبَّت مجانًا عبر Homebrew أو بالبناء من الشيفرة المصدرية، وهي مرخّصة بموجب Apache 2.0، ولا تحتوي على أي خطة مدفوعة أو حساب أو حد للاستخدام.
كيف أُثبِّت mlxcel؟
نفِّذ الأمر brew tap lablup/tap && brew install mlxcel على macOS أو Linux، أو ابنِها من الشيفرة المصدرية باستخدام Cargo مع علم الميزة المناسب (metal أو cuda أو rocm التجريبي)، وفقًا لملف README الخاص بالمشروع.
ما الأجهزة التي تدعمها mlxcel؟
Apple Silicon (Metal) هو الهدف الأساسي. وNVIDIA CUDA على Linux هدف ثانوي مدعوم. أما AMD ROCm على Linux فهو تجريبي ومتاح فقط عبر البناء من الشيفرة المصدرية. يعمل بناء Linux يعتمد على المعالج (CPU) فقط، لكنه ليس هدف إصدار مُتحقَّقًا منه.
هل تحتاج mlxcel إلى Python؟
لا. mlxcel مكتوبة بلغة Rust وتُنفِّذ نقاط تفتيش MLX عبر ارتباطات MLX C++ أصلية، دون مُفسِّر Python في مسار الطلب.
ما صيغة نقاط التفتيش التي تستخدمها mlxcel؟
نقاط تفتيش MLX SafeTensors، بما فيها تلك المنشورة تحت منظمة mlx-community على Hugging Face — وليس صيغة GGUF التي يستخدمها llama.cpp.
هل mlxcel متوافقة مع واجهة llama.cpp؟
نعم، جزئيًا وبتصميم مقصود: توثِّق mlxcel بيان توافق ثابتًا ومثبّتًا على إصدار محدد لمسارات وأعلام llama-server، إلى جانب نقاط نهايتها الخاصة المتوافقة مع OpenAI وAnthropic وVertex.
هل تدعم mlxcel نماذج الصوت والرؤية؟
نعم. تتعامل مع مدخلات الرؤية واللغة، ونسخ الكلام إلى نص، وتحويل النص إلى كلام (عبر نماذج عائلة Kokoro)، إلى جانب توليد النصوص والتضمينات وإعادة الترتيب.
هل اختبرت PromptQuorum بشكل مستقل ادعاءات قياس الأداء الخاصة بـ mlxcel؟
لا. تستند هذه المراجعة إلى مستودع mlxcel على GitHub وملف README الخاص بها، وليس إلى قياس أداء عملي أجرته PromptQuorum. مقارنات الأداء في README الخاص بالمشروع مقيسة ذاتيًا من قِبَل المشروع نفسه.