النقاط الرئيسية
- رخصة Apache 2.0 — مجانية للاستخدام الشخصي والتجاري
- حوالي 23,000+ نجمة على GitHub حتى سبتمبر 2026، والمستودع على github.com/mlc-ai/mlc-llm
- نشأ من تعاون يضم CMU Catalyst وUW SAMPL وSJTU وOctoML ومجتمع MLC الأوسع
- تيانتشي تشن (Tianqi Chen) — أستاذ في CMU ومبتكر Apache TVM وXGBoost وMXNet، ومؤسس مشارك لـ OctoML — من أبرز المساهمين
- يستخدم تجميع التعلم الآلي (Apache TVM وTensorIR وMetaSchedule) لإنتاج بيئة تشغيل محسَّنة لكل هدف، بدلًا من محرك واحد مضبوط يدويًا
- يعمل على iOS/iPadOS وAndroid ومتصفحات الويب (عبر WebGPU) وسطح المكتب/الخادم (لينكس، ماك أو إس، ويندوز) بتسريع CUDA أو Vulkan أو Metal أو ROCm
📍 في جملة واحدة
MLC LLM محرك نشر نماذج لغوية شامل ومجاني برخصة Apache 2.0، يستخدم تجميع التعلم الآلي المبني على Apache TVM لتجميع نموذج إلى بيئة تشغيل محسَّنة لـ iOS أو Android أو متصفحات الويب عبر WebGPU أو معالجات رسومية لسطح المكتب.
💬 بعبارات بسيطة
معظم محركات الاستدلال هي برنامج واحد مكتوب يدويًا يحاول العمل في كل مكان؛ أما MLC LLM فيجمّع نموذجًا خصيصًا لكل جهاز مستهدف، تمامًا كما ينتج المُجمِّع (compiler) شفرة آلة مختلفة لمعماريات معالجات مختلفة من الشفرة المصدرية نفسها.
📌ملاحظة: WebLLM (github.com/mlc-ai/web-llm) مشروع شقيق مستقل ضمن منظمة mlc-ai نفسها، مخصص تحديدًا لتشغيل النماذج بالكامل داخل متصفح ويب دون أي استدلال من جهة الخادم.
ما هو MLC LLM؟
MLC LLM محرك مجاني ومفتوح المصدر يجمّع نماذج لغوية كبيرة إلى بيئات تشغيل أصلية محسَّنة لمجموعة واسعة من المنصات المستهدفة، من الهواتف إلى المتصفحات إلى معالجات سطح المكتب الرسومية. يصف المشروع نفسه بأنه "محرك نشر نماذج لغوية شامل مع تجميع التعلم الآلي".
يستضاف المشروع على github.com/mlc-ai/mlc-llm برخصة Apache 2.0 وقد تجاوز حوالي 23,000 نجمة على GitHub. بدأه أعضاء من CMU Catalyst وUW SAMPL وSJTU وOctoML ومجتمع MLC — مجموعة وليس شركة واحدة. تيانتشي تشن، أستاذ CMU ومبتكر Apache TVM وXGBoost وMXNet، من أبرز المساهمين فيه.
- يجمّع نموذجًا إلى بيئة تشغيل محسَّنة خاصة بالهدف، بدلًا من تفسير الشفرة العامة نفسها على كل منصة
- يعتمد على Apache TVM وأبحاث تجميع ذات صلة (TensorIR وMetaSchedule) لتحقيق تحسين آلي لكل هدف
- يدعم iOS/iPadOS وAndroid ومتصفحات الويب ومنصات سطح المكتب/الخادم من سلسلة أدوات واحدة
- لديه مشروع شقيق نشط هو WebLLM، مخصص تحديدًا للاستدلال بالكامل من جانب العميل داخل المتصفح
ماذا تعني "تجميع التعلم الآلي" هنا فعليًا؟
يعامل تجميع التعلم الآلي نشر نموذج على جهاز جديد بالطريقة نفسها التي يعامل بها المُجمِّع التقليدي نشر شفرة على معمارية معالج جديدة — إنتاج شفرة محسَّنة وخاصة بالهدف تلقائيًا من وصف نموذج واحد. هذه هي الفكرة الجوهرية التي تتيح لـ MLC LLM تغطية مثل هذا النطاق الواسع من العتاد.
- يوفر Apache TVM البنية التحتية للتجميع التي يُبنى عليها MLC LLM، ويترجم رسوم حسابات النموذج إلى شفرة منخفضة المستوى محسَّنة لكل هدف
- TensorIR هو التمثيل الوسيط المستخدم لوصف حسابات المصفوفات (tensors) قبل التحسين الخاص بالهدف
- يُؤتمت MetaSchedule عملية البحث عن تنفيذات نواة (kernel) عالية الأداء لكل هدف، بدلًا من مطالبة شخص بكتابة كل واحدة وضبطها يدويًا
- والنتيجة نموذج واحد يمكن تجميعه للعمل على معالج رسومي من إنفيديا عبر CUDA، أو معالج AMD عبر Vulkan أو ROCm، أو معالج آبل عبر Metal، أو متصفح عبر WebGPU، من المصدر نفسه إلى حد كبير
كيف تُثبّت وتنشر MLC LLM؟
يُثبَّت MLC LLM كحزمة Python لاستخدام سطح المكتب/الخادم، ويوفر تطبيقات جاهزة لـ iOS وAndroid، بينما يتوفر WebLLM كحزمة JavaScript لنشر المتصفح. يعتمد المسار الصحيح على المنصة المستهدفة.
- 1لاستخدام سطح المكتب/الخادم: تثبيت حزمة Python الخاصة بـ MLC LLM باتباع دليل التثبيت الرسمي، الذي يغطي إعدادات CUDA وVulkan وMetal وROCm.
- 2اختيار نموذج مدعوم وتجميعه للجهاز المستهدف باستخدام أدوات التحويل والتجميع الخاصة بـ MLC LLM، أو استخدام نموذج مُجمَّع مسبقًا من مجتمع MLC.
- 3للأجهزة المحمولة: يوفر MLC LLM مشاريع تطبيقات نموذجية لـ iOS وAndroid تجمع النموذج المُجمَّع وبيئة التشغيل معًا.
- 4لنشر المتصفح دون خادم: استخدام WebLLM مباشرة كحزمة JavaScript/TypeScript، تعمل بالكامل من جانب العميل عبر WebGPU.
- 5تشغيل واختبار بيئة التشغيل المُجمَّعة على الجهاز أو المتصفح المستهدف للتأكد من أن التسريع فعّال على الخلفية المتوقعة (CUDA أو Vulkan أو Metal أو ROCm أو WebGPU).
هل أحتاج إلى إعادة تجميع النموذج لكل منصة؟
عمومًا نعم. خطوة التجميع في MLC LLM تنتج بيئة تشغيل محسَّنة لهدف محدد (خلفية معالج رسومي معينة، أو نظام تشغيل محمول، أو متصفح)، لذا فإن النشر على منصة جديدة يتطلب عادة التجميع لذلك الهدف.
هل يمكن لـ MLC LLM العمل دون معالج رسومي؟
بيئات التشغيل المُجمَّعة مبنية أساسًا حول مسارات تسريع المعالج الرسومي (CUDA وVulkan وMetal وROCm وWebGPU أو OpenCL للأجهزة المحمولة)؛ النشر المرتكز على المعالج المركزي ليس التركيز الأساسي للمشروع كما هو الحال في محركات مثل llama.cpp.
ما المنصات وخلفيات المعالج الرسومي التي يدعمها MLC LLM؟
السمة المميزة لـ MLC LLM هي اتساع دعم المنصات، الذي يشمل أنظمة تشغيل الأجهزة المحمولة ومتصفحات الويب إلى جانب معالجات سطح المكتب الرسومية التقليدية. قلة من محركات الاستدلال المحلية الأخرى تستهدف هذا المزيج من سلسلة أدوات واحدة.
- iOS/iPadOS — تسريع Metal على معالجات إنفيديا من سلسلة A من آبل
- Android — تسريع OpenCL على معالجات Adreno وMali
- متصفحات الويب — WebGPU وWASM عبر المشروع الشقيق WebLLM، دون الحاجة إلى خادم
- سطح المكتب/الخادم (لينكس، ماك أو إس، ويندوز) — CUDA (إنفيديا)، وVulkan (AMD/إنفيديا/إنتل)، وMetal (آبل)، وROCm (AMD)
لمن يناسب MLC LLM؟
استخدم MLC LLM إذا كان هدف النشر يشمل أجهزة محمولة أو متصفحات ويب إلى جانب معالجات سطح المكتب الرسومية؛ واستخدم محركًا أضيق نطاقًا إذا كان الهدف نوع منصة واحد فقط.
كيف يقارَن MLC LLM بـ llama.cpp ومحركات أخرى؟
أقرب مقارنات MLC LLM هي محركات أخرى تستهدف دعمًا واسعًا للعتاد، رغم أنه الوحيد في هذه المجموعة المبني حول نهج قائم على مُجمِّع مع نشر داخل المتصفح.
أخطاء شائعة عند تقييم MLC LLM
ينشأ معظم اللبس من توقع تجربة ملف تنفيذي جاهز للاستخدام مباشرة، أو من عدم إدراك أن WebLLM مشروع شقيق منفصل.
الأسئلة الشائعة
ما هو MLC LLM؟
MLC LLM محرك مجاني برخصة Apache 2.0 يستخدم تجميع التعلم الآلي لنشر نماذج لغوية كبيرة على الهواتف ومتصفحات الويب ومعالجات سطح المكتب الرسومية من سلسلة أدوات واحدة.
من أنشأ MLC LLM؟
بدأه أعضاء من CMU Catalyst وUW SAMPL وSJTU وOctoML ومجتمع MLC. تيانتشي تشن، أستاذ CMU ومبتكر Apache TVM وXGBoost وMXNet، من أبرز المساهمين فيه.
هل MLC LLM مجاني للاستخدام التجاري؟
نعم. يخضع MLC LLM لرخصة Apache 2.0، وهو مجاني للاستخدام الشخصي والتجاري.
هل يمكن لـ MLC LLM العمل في متصفح ويب؟
نعم، عبر مشروعه الشقيق WebLLM، الذي يشغّل النماذج بالكامل من جانب العميل عبر WebGPU، دون الحاجة إلى استدلال من جهة الخادم.
ماذا يعني "تجميع التعلم الآلي" في MLC LLM؟
يشير إلى استخدام تقنيات التجميع (المبنية على Apache TVM، مع TensorIR وMetaSchedule) لإنتاج بيئة تشغيل محسَّنة تلقائيًا لجهاز مستهدف محدد، بدلًا من الاعتماد على محرك واحد مضبوط يدويًا لكل منصة.
هل يدعم MLC LLM نظامي iOS وAndroid؟
نعم. يُدعم iOS/iPadOS عبر Metal على معالجات آبل من سلسلة A، ويُدعم Android عبر OpenCL على معالجات Adreno وMali.
ما خلفيات المعالج الرسومي التي يدعمها MLC LLM على سطح المكتب؟
CUDA (إنفيديا)، وVulkan (AMD وإنفيديا وإنتل)، وMetal (آبل)، وROCm (AMD).
هل أحتاج إلى تجميع النموذج بشكل منفصل لكل منصة؟
عمومًا نعم. يجمّع MLC LLM النموذج إلى بيئة تشغيل محسَّنة لهدف محدد، لذا فإن النشر على منصة جديدة (خلفية معالج رسومي مختلفة، أو نظام تشغيل محمول، أو المتصفح) يتطلب عادة التجميع لذلك الهدف.
ما الفرق بين MLC LLM وllama.cpp؟
llama.cpp محرك C/C++ مكتوب يدويًا بخلفيات مضبوطة يدويًا لكل مورّد عتاد. أما MLC LLM فيستخدم بدلًا من ذلك مُجمِّعًا (Apache TVM) لإنتاج شفرة محسَّنة آليًا لكل هدف، وهو ما يتيح له الوصول أيضًا إلى الأجهزة المحمولة ومتصفحات الويب عبر WebGPU.
هل يناسب MLC LLM خدمة الإنتاج المتخصصة بإنفيديا على نطاق واسع؟
ليس هذا تركيزه الأساسي. لأقصى إنتاجية إنتاج خاصة بإنفيديا، تُعد TensorRT-LLM أو vLLM أدوات أكثر تخصصًا؛ تكمن قوة MLC LLM في الاتساع عبر منصات شديدة الاختلاف، وليس أقصى إنتاجية على منصة واحدة.