النقاط الرئيسية
- mlxcel (github.com/lablup/mlxcel) أداة سطر أوامر وخادم استدلال مجانيان ومفتوحا المصدر، يُثبَّتان عبر Homebrew أو بالبناء من الشيفرة المصدرية
- طوّرتها شركة Lablup، الشركة التي تقف خلف منصة البنية التحتية للذكاء الاصطناعي Backend.AI
- مرخّصة بموجب Apache 2.0، مؤكَّد ذلك من ملف LICENSE في مستودع GitHub
- تنفيذ أصلي بالكامل: Rust مع ارتباطات MLX C++، دون مُفسِّر Python في مسار الطلب، ودون خطوة تحويل لأوزان MLX SafeTensors
- توفّر مسارات متوافقة مع OpenAI وAnthropic وVertex AI، إضافة إلى واجهة مسارات وأعلام (flags) موثّقة ومثبّتة على إصدار محدد ومتوافقة مع
llama-server - الهدف الأساسي هو Apple Silicon (Metal)؛ وNVIDIA CUDA على Linux هدف ثانوي؛ وAMD ROCm على Linux تجريبي ومتاح فقط عبر البناء من الشيفرة المصدرية
- تتعامل مع توليد النصوص، ومدخلات الرؤية واللغة، والتضمينات، وإعادة الترتيب، والصوت (النسخ الصوتي وتحويل النص إلى كلام) من بيئة تشغيل واحدة
- أكثر من 467 نجمة على GitHub وقت إعداد هذه المراجعة
📍 في جملة واحدة
mlxcel هي أداة سطر أوامر وخادم استدلال مجانيان ومفتوحا المصدر (Apache 2.0)، مكتوبان بلغة Rust أصلية لنماذج اللغة الكبيرة ونماذج الرؤية واللغة والتضمينات ومُعيدات الترتيب والصوت، طوّرتهما Lablup لأجهزة Apple Silicon وNVIDIA CUDA، مع دعم تجريبي لـ AMD ROCm.
💬 بعبارات بسيطة
mlxcel أداة سطر أوامر وخادم مكتوبان بلغة Rust بدلًا من Python، تُحمِّلان نماذج الذكاء الاصطناعي مباشرةً من الملفات التي تم تنزيلها وتُشغِّلانها على جهاز Mac أو جهاز Linux مزوّد بمعالج رسومي CUDA — دون الحاجة لإعداد بيئة Python منفصلة، ودون خطوة تحويل قبل تحميل النموذج. تتحدث الأداة نفس صيغة الطلبات المستخدمة في واجهتي OpenAI وAnthropic، ما يسمح لشيفرة العميل الحالية بالاتصال بها مباشرة.
📌ملاحظة: تستند هذه المراجعة إلى مستودع mlxcel على GitHub وملف README الخاص به والوثائق المرتبطة به. لا تتعامل المراجعة مع مقارنات الأداء التي نشرتها mlxcel بنفسها مقابل mlx-lm وmlx-vlm باعتبارها حقائق تم التحقق منها بشكل مستقل — فهذه الأرقام مستمدة من منهجية القياس (benchmark) الخاصة بالمشروع نفسه، وينبغي التعامل معها كبيانات صادرة عن الجهة المطوِّرة، وليست مختبَرة من قِبَل PromptQuorum. هذه المراجعة هي المرافق التفصيلي لإدراج mlxcel في دليل برامج LLM المحلية.
ما هي mlxcel؟
mlxcel هي بيئة تشغيل استدلال أصلية — أداة سطر أوامر وخادم في آنٍ واحد — لتشغيل نماذج الذكاء الاصطناعي محليًا دون مُفسِّر Python في مسار الطلب. يصفها ملف README الخاص بها على GitHub بأنها توفّر "استدلالًا عالي الأداء لنماذج اللغة الكبيرة، ونماذج الرؤية واللغة، والتضمينات، وإعادة الترتيب، والصوت لأنظمة Apple Silicon وNVIDIA CUDA"، ويتم تنفيذها عبر "ارتباطات MLX C++ أصلية".
- نوع المنتج: أداة سطر أوامر أصلية بلغة Rust (
mlxcel) وخادم (mlxcel-server)، يُوزَّعان كملفات ثنائية مُجمَّعة عبر Homebrew أو تُبنيان من الشيفرة المصدرية — وليسا حزمة Python ولا تطبيق سطح مكتب رسوميًا - الجهة المطوِّرة: Lablup Inc.، شركة معروفة أيضًا بمنصة Backend.AI، منصة مفتوحة المصدر للبنية التحتية للذكاء الاصطناعي وMLOps
- المستودع: github.com/lablup/mlxcel، المشروع الأصلي — توجد عدة نسخ متفرعة (forks) بالاسم نفسه تحت أسماء مستخدمين أخرى على GitHub، وتُدرِج جميعها هذا المستودع كمصدرها الأصلي
- الترخيص: Apache 2.0، مؤكَّد من ملف LICENSE في المستودع
- منتج مكمِّل: Backend.AI Go، يصفه ملف README الخاص بـ mlxcel بأنه واجهة رسومية مكمِّلة اختيارية للمحادثة المحلية وإدارة النماذج، ويمكن أن تعمل فوق
mlxcel-server
تاريخ المشروع
يوثِّق ملف README الخاص بـ mlxcel تاريخ إصداراته عبر ملف CHANGELOG، ويصف الفرع main الحالي بأنه الإصدار v0.7.0 إضافة إلى أعمال لم تُنشر بعد. مرّ المشروع بسلسلة من الإصدارات الموسومة (tagged)، مضيفًا أهدافًا منصّية وميزات خدمة على مر الوقت، وفقًا لسجل التغييرات وملف README الخاصين به.
- 1الإصدارات المبكرة (حتى v0.0.28) — استدلال بأولوية لـ Apple Silicon
Why it matters: يشير ملف README الخاص بالمشروع إلى حملة قياس أداء (benchmark) سابقة (مؤرَّخة في نص README نفسه بمايو 2026) نُفِّذت على mlxcel 0.0.28، ما يدل على أن المشروع كان لديه بالفعل قياس أداء وظيفي لفك ترميز النص وملء السياق المسبق (prefill) في إصداراته المبكرة المنشورة. - 2v0.6.0 — فك ترميز تخميني (speculative decoding) مع سياسة دقة
Why it matters: وفقًا لـ README، أدخل هذا الإصدار سياسة تفحص الدقة الجشعة (greedy exactness) قبل تفعيل مسارات فك الترميز التخميني الأسرع، بدلًا من استخدام أسرع نواة (kernel) متاحة دائمًا بغض النظر عن صحة الناتج. - 3v0.7.0 — الأساس الحالي للإصدار
Why it matters: يصف README هذا الإصدار بأنه أحدث إصدار موسوم وقت إعداد هذه المراجعة، مع دعم بنية DeepSeek-V4، وتوافق موسّع لمسارات llama-server، وإصلاحات لنوع البيانات (dtype) حسّنت أداء الدقة النصفية على عدة عائلات من النماذج. - 4الفرع
mainغير المنشور — دعم تجريبي لـ AMD ROCm
Why it matters: وقت إعداد هذه المراجعة، يتوفر دعم وحدات معالجة الرسوميات AMD عبر `--features rocm` في الفرع `main`، لكنه لم يُدرَج بعد ضمن إصدار موسوم، وفقًا لقسم "Current main highlights" في README نفسه.
ماذا يمكنك أن تفعل باستخدام mlxcel؟
تتمحور مجموعة ميزات mlxcel حول تشغيل مجموعة واسعة من أنواع النماذج بشكل أصلي، مع أدوات تحكم في الخدمة موجَّهة للإنتاج. إليك ما يفعله كل جزء فعليًا، وفقًا لملف README الخاص بالمشروع نفسه.
- تحميل نقاط التفتيش مباشرة — تحمِّل نقاط تفتيش MLX SafeTensors مباشرةً من Hugging Face، بما في ذلك منظمة
mlx-community، وتحمَّل أيضًا العديد من نقاط تفتيش التضمين القياسية بصيغة SafeTensors دون خطوة تحويل - توافق API متعدد الصيغ — توفّر مسارات متوافقة مع OpenAI (Chat Completions وCompletions وResponses وEmbeddings وReranking وAudio)، وAnthropic Messages، وVertex AI، إضافة إلى واجهة مسارات وأعلام أصلية موثّقة ومتوافقة مع
llama-server، مثبّتة على إصدار محدد من المشروع المصدر - تغطية واسعة للبنيات — محوّلات (transformers) كثيفة، ونماذج مزيج خبراء متناثرة (Sparse MoE)، ونماذج فضاء الحالة الهجينة، ونماذج الرؤية واللغة/التعرف الضوئي على الحروف (OCR)، والتضمينات، ومُعيدات الترتيب، وتحويل الكلام إلى نص، وتحويل النص إلى كلام، ويمكن الاستعلام عنها عبر الأمر
mlxcel arch - توجيه متعدد النماذج — يكتشف وضع الموجِّه (router) نقاط التفتيش من مخزن نماذج أو دليل، ويحمّلها عند الطلب، ويحدّ من المجموعة المقيمة في الذاكرة بسياسة إخلاء الأقل استخدامًا مؤخرًا (LRU)
- محوّلات LoRA حيّة — وفقًا لـ README، يمكن أن تبقى عدة محوّلات LoRA غير مدمجة للتبديل حسب كل طلب، أو تُدمَج لتحقيق عبء تشغيلي صفري في فك الترميز
- فك ترميز تخميني — فك ترميز تخميني مقاس ومُتحقَّق من دقته لعدة عائلات من النماذج (بما في ذلك مسارات Gemma وQwen وGLM-4.7-Flash MTP)، متاح عبر نقطة نهاية
/v1/internal/mtp-policy - أدوات تحكم تشغيلية — تهيئة مفاتيح API وCORS/TLS، وتعليق/إيقاظ النماذج الخاملة، وقواعد GBNF النحوية، وأدوات تحكم موسّعة لأخذ العينات (sampling)، ومراقبة الطلبات والتخزين المؤقت
- تعديل نماذج قابل لإعادة الإنتاج — تعديلات أوزان عند التحميل مُعرَّفة بصيغة YAML (
scaleوَaddوَpruneوَreplaceوَinterpolate) عبر علم--surgery، لتعديل نقاط التفتيش بشكل قابل لإعادة الإنتاج دون تحرير الأوزان يدويًا
أمثلة على الاستخدام: ثلاث طرق لاستخدام mlxcel
هذه سير عمل ملموسة مبنية على ميزات mlxcel الموثّقة أعلاه، باستخدام أوامر من ملف README الخاص بالمشروع نفسه.
تثبيت mlxcel
تُثبَّت mlxcel مجانًا عبر Homebrew على macOS وLinux، وشيفرتها المصدرية متاحة على GitHub للبناء من المصدر. بصفتها أداة سطر أوامر وخادم موجّهة للمطورين، لا يوجد مثبِّت رسومي.
المصدر | الرابط |
|---|---|
| مستودع GitHub (الشيفرة المصدرية، Apache 2.0) | github.com/lablup/mlxcel |
| التثبيت عبر Homebrew | brew tap lablup/tap && brew install mlxcel |
| البناء من المصدر (Apple Silicon) | cargo build --release --features metal,accelerate |
| البناء من المصدر (NVIDIA CUDA) | cargo build --release --features cuda |
| الوثائق | docs/installation.md |
تُثبِّت صيغة Homebrew (formula) أحدث إصدار موسوم. البناء من الشيفرة المصدرية مطلوب للميزات الأحدث غير المنشورة بعد (مثل دعم AMD ROCm التجريبي) ولأهداف CUDA أو ROCm، وفقًا لملف README الخاص بالمشروع. تتطلب عمليات البناء من المصدر لأجهزة Apple Silicon توفر Rust، وأدوات سطر أوامر Xcode، وCMake، ومكوّن سلسلة أدوات Metal.
أسعار mlxcel: هل mlxcel مجانية حقًا؟
نعم — لا تحتوي mlxcel على أي خطة مدفوعة. تُوزَّع كمشروع مجاني مفتوح المصدر مرخّص بموجب Apache 2.0، دون حساب أو مفتاح ترخيص أو حد للاستخدام. لا تحتوي مستودع GitHub على صفحة تسعير.
- لا توجد أي تكلفة لتثبيت mlxcel أو تشغيلها بذاتها — سواء صيغة Homebrew أو البناء من المصدر، كلاهما مجاني
- يسمح ترخيص Apache 2.0 بالاستخدام التجاري والتعديل وإعادة التوزيع، بشرط الالتزام بالشروط القياسية للترخيص (نسب المصدر والاحتفاظ بإشعار الترخيص)
- التكلفة الحقيقية الوحيدة هي الجهاز اللازم لتشغيلها (جهاز Mac بمعالج Apple Silicon أو وحدة معالجة رسومية مزوَّدة بـ CUDA) ومساحة القرص للنماذج التي تُنزَّل بشكل منفصل
- تبيع Lablup، الشركة التي تقف خلف mlxcel، أيضًا Backend.AI كمنتج تجاري للبنية التحتية للذكاء الاصطناعي، لكن هذه المراجعة لم تجد أي دليل على أن أي ميزة في mlxcel مقيّدة بشراء Backend.AI — التطبيق المكمِّل الاختياري Backend.AI Go موصوف في README الخاص بـ mlxcel بأنه واجهة رسومية منفصلة واختيارية، وليس شرطًا
mlxcel مقابل llama.cpp
mlxcel وَllama.cpp كلاهما بيئتا تشغيل استدلال أصليتان (غير Python)، لكنهما تختلفان في اللغة، والتركيز على المنصة الأساسية، وصيغة نقاط التفتيش. llama.cpp مشروع بلغتي C/C++ يدعم أوسع نطاق من الأجهزة والنماذج المُكمَّاة بصيغة GGUF؛ أما mlxcel فهو مشروع بلغة Rust يركّز على نقاط تفتيش MLX SafeTensors، مع Apple Silicon كهدف أساسي وتوافق موثَّق لمسارات llama-server لتسهيل الاستبدال المباشر.
اللغة
- mlxcel:
- Rust
- llama.cpp:
- C/C++
صيغة نقاط التفتيش الأساسية
- mlxcel:
- MLX SafeTensors
- llama.cpp:
- GGUF
المنصة الأساسية
- mlxcel:
- Apple Silicon (Metal)، وCUDA كهدف ثانوي
- llama.cpp:
- أوسع دعم للأجهزة: CPU وCUDA وMetal وVulkan والمزيد
الجهة المُشرِفة
- mlxcel:
- Lablup (شركة Backend.AI)
- llama.cpp:
- يُشرِف عليه المجتمع، وأنشأه في الأصل Georgi Gerganov
توافق API
- mlxcel:
- OpenAI وAnthropic وVertex، إضافة إلى مسارات متوافقة مع llama-server
- llama.cpp:
- خادمه الخاص
llama-serverهو التطبيق المرجعي الذي تسعى mlxcel للتوافق معه
هذه مقارنة ميزات واقعية مبنية على وثائق كل مشروع بذاته، وليست قياس أداء (benchmark) أجرته PromptQuorum لأي من الأداتين. تستهدف mlxcel صراحة التوافق مع واجهة مسارات llama-server الخاصة بـ llama.cpp، وفقًا لبيان التوافق b10621 الموثَّق الخاص بها، بدلًا من تقديم نفسها كبديل غير مرتبط.
من يجب أن يستخدم mlxcel؟
تناسب mlxcel المطورين الذين يريدون بيئة تشغيل استدلال أصلية موجَّهة للإنتاج دون اعتماد على Python في مسار الخدمة.
أخطاء شائعة عند تقييم mlxcel
ينشأ معظم اللبس حول mlxcel من افتراض أن دعمها للمنصات أو صيغة نقاط التفتيش أوسع مما هو موثَّق.
المنافسون والبدائل
تقع mlxcel في نفس شريحة خوادم الاستدلال الخاصة بـ Apple Silicon وبيئات التشغيل الأصلية إلى جانب vllm-mlx وoMLX وRapid-MLX — مشاريع مستقلة تُشغِّل نماذج محلية بواجهة API متوافقة مع OpenAI أو مشابهة لها، وتختلف بشكل أساسي في اللغة (Rust مقابل Python)، واتساع دعم المنصات، والتركيز على الميزات.
الأداة | أشهر ما يميزها | الرابط |
|---|---|---|
| vllm-mlx | تجميع مستمر (continuous batching) على طراز vLLM لأجهزة Apple Silicon، مبني على Python | vllm-mlx Review |
| oMLX | خادم استدلال لأجهزة Apple Silicon مع تخزين مؤقت للطلبات مدعوم بـ SSD | oMLX Review |
| Rapid-MLX | خادم استدلال MLX أصلي يركّز على سرعة الخدمة | Rapid-MLX Review |
| LoRAX | خدمة آلاف من محوّلات LoRA من نموذج أساسي واحد على وحدة معالجة رسومية واحدة | LoRAX Review |
تعكس هذه القائمة أدوات تُقارَن عادةً في مجال محركات الاستدلال الخاصة بـ Apple Silicon والبيئات الأصلية، وليست تصنيفًا مستقلًا من PromptQuorum — تحقّق من مجموعة الميزات الحالية لكل أداة قبل الاختيار.
الأسئلة الشائعة
ما هي mlxcel؟
mlxcel (github.com/lablup/mlxcel) هي أداة سطر أوامر وخادم استدلال مجانيان ومفتوحا المصدر (Apache 2.0)، مكتوبان بلغة Rust أصلية لنماذج اللغة الكبيرة ونماذج الرؤية واللغة والتضمينات ومُعيدات الترتيب والصوت، طوّرتهما Lablup.
من يصنع mlxcel؟
Lablup Inc.، الشركة المعروفة أيضًا بمنصة البنية التحتية للذكاء الاصطناعي وMLOps المسماة Backend.AI.
هل mlxcel مجانية؟
نعم. تُثبَّت مجانًا عبر Homebrew أو بالبناء من الشيفرة المصدرية، وهي مرخّصة بموجب Apache 2.0، ولا تحتوي على أي خطة مدفوعة أو حساب أو حد للاستخدام.
كيف أُثبِّت mlxcel؟
نفِّذ الأمر brew tap lablup/tap && brew install mlxcel على macOS أو Linux، أو ابنِها من الشيفرة المصدرية باستخدام Cargo مع علم الميزة المناسب (metal أو cuda أو rocm التجريبي)، وفقًا لملف README الخاص بالمشروع.
ما الأجهزة التي تدعمها mlxcel؟
Apple Silicon (Metal) هو الهدف الأساسي. وNVIDIA CUDA على Linux هدف ثانوي مدعوم. أما AMD ROCm على Linux فهو تجريبي ومتاح فقط عبر البناء من الشيفرة المصدرية. يعمل بناء Linux يعتمد على المعالج (CPU) فقط، لكنه ليس هدف إصدار مُتحقَّقًا منه.
هل تحتاج mlxcel إلى Python؟
لا. mlxcel مكتوبة بلغة Rust وتُنفِّذ نقاط تفتيش MLX عبر ارتباطات MLX C++ أصلية، دون مُفسِّر Python في مسار الطلب.
ما صيغة نقاط التفتيش التي تستخدمها mlxcel؟
نقاط تفتيش MLX SafeTensors، بما فيها تلك المنشورة تحت منظمة mlx-community على Hugging Face — وليس صيغة GGUF التي يستخدمها llama.cpp.
هل mlxcel متوافقة مع واجهة llama.cpp؟
نعم، جزئيًا وبتصميم مقصود: توثِّق mlxcel بيان توافق ثابتًا ومثبّتًا على إصدار محدد لمسارات وأعلام llama-server، إلى جانب نقاط نهايتها الخاصة المتوافقة مع OpenAI وAnthropic وVertex.
هل تدعم mlxcel نماذج الصوت والرؤية؟
نعم. تتعامل مع مدخلات الرؤية واللغة، ونسخ الكلام إلى نص، وتحويل النص إلى كلام (عبر نماذج عائلة Kokoro)، إلى جانب توليد النصوص والتضمينات وإعادة الترتيب.
هل اختبرت PromptQuorum بشكل مستقل ادعاءات قياس الأداء الخاصة بـ mlxcel؟
لا. تستند هذه المراجعة إلى مستودع mlxcel على GitHub وملف README الخاص بها، وليس إلى قياس أداء عملي أجرته PromptQuorum. مقارنات الأداء في README الخاص بالمشروع مقيسة ذاتيًا من قِبَل المشروع نفسه.