Skip to main content
PromptQuorumPromptQuorum
Home/Local LLMs/أفضل حزمة ⁨LLM⁩ محلية للمطورين (أبريل ⁨2026⁩)
Tools & Interfaces

أفضل حزمة ⁨LLM⁩ محلية للمطورين (أبريل ⁨2026⁩)

·10 دقائق للقراءة·By Hans Kuepper · Founder of PromptQuorum, multi-model AI dispatch tool · PromptQuorum
اقرأ بـ:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

ينبغي للمطورين استخدام vLLM + FastAPI + امتداد VS Code Copilot للاستدلال المحلي لـ LLM بمستوى الإنتاج. اعتبارًا من أبريل 2026، تتيح هذه الحزمة إكمال الكود في الوقت الفعلي والمعالجة على دفعات والتوافق مع واجهة OpenAI دون الاعتماد على مزود واحد.

ينبغي للمطورين استخدام vLLM + FastAPI + امتداد VS Code Copilot للاستدلال المحلي لـ LLM بمستوى الإنتاج. اعتبارًا من أبريل 2026، تتيح هذه الحزمة إكمال الكود في الوقت الفعلي والمعالجة على دفعات والتوافق مع واجهة OpenAI دون الاعتماد على مزود واحد. البديل (الأبسط): Ollama + llama.cpp CLI للسكربتات العَرَضية.

العرض التقديمي: أفضل حزمة ⁨LLM⁩ محلية للمطورين (أبريل ⁨2026⁩)

يغطي العرض التقديمي أدناه حزمة المطوِّر بـ LLM المحلي من ثلاثة مستويات (Ollama ← vLLM API ← إنتاج متعدد المستخدمين)، والتكامل مع IDE باستخدام VS Code وCursor، والتصحيح والمراقبة بـ Prometheus، والسياق الإقليمي للامتثال التنظيمي. نزِّل ملف PDF بوصفه بطاقة مرجعية لحزمة المطوِّر بـ LLM المحلي.

تصفّح الشرائح أدناه أو نزّلها بصيغة PDF للرجوع إليها دون اتصال. تنزيل البطاقة المرجعية (PDF)

Key Takeaways

  • المستوى 1 (بسيط): `ollama run llama3.2` + OpenWebUI. لا يلزم كود.
  • المستوى 2 (قياسي): vLLM + غلاف FastAPI. Python 3.10+، تثبيت pip لحزمتين، إعداد في 30 دقيقة.
  • المستوى 3 (إنتاج): vLLM + موازِن تحميل nginx + مراقبة (Prometheus). متعدد GPU، متعدد المستخدمين، متحمِّل للأعطال.
  • التكامل مع IDE: VS Code Copilot أو Cursor مع نقطة نهاية واجهة OpenAI الخاصة بـ vLLM.
  • المعالجة على دفعات: أرسل 10 مطالبات في آن واحد، واستقبل 10 ردود بالتوازي (لا على نحو متسلسل).
  • التكلفة: صفر (مفتوح المصدر) مقابل 20 دولارًا/شهر (Claude Pro) أو 200 دولار/شهر (فريق كبير في السحابة).
  • السرعة: يبلغ المستوى 2 سرعة 30-50 token/ثانية للبرمجة. ويبلغ المستوى 3 سرعة 200+ token/ثانية بين المستخدمين.
  • التعقيد: المستوى 1 (1/10)، المستوى 2 (4/10)، المستوى 3 (8/10).

المستويات الثلاثة

اختر بناءً على حالة الاستخدام:

  • المستوى 1: مطوِّر فردي، استخدام عَرَضي، بلا خادم API. Ollama + واجهة محادثة.
  • المستوى 2: مطوِّر فردي، تكامل مع IDE، سكربتات مخصصة. vLLM + FastAPI.
  • المستوى 3: نشر للفريق، 5+ مطورين، خدمة دائمة التشغيل. vLLM + nginx + مراقبة.

المستوى 1: بدء سريع بـ CLI (5 دقائق)

للبرمجة: ثبِّت امتداد "Continue" في VS Code (`continue.dev`)، ووجِّهه إلى واجهة Ollama، واحصل على إكمالات في الوقت الفعلي.

  1. 1
    `brew install ollama` (macOS) أو تنزيل المثبِّت لنظام Windows.
  2. 2
    `ollama run llama3.2` (تنزيل النموذج 8B وتشغيله).
  3. 3
    افتح المتصفح: `http://localhost:11434` (واجهة ويب Ollama).
  4. 4
    ابدأ المحادثة. انتهى الأمر.

المستوى 2: خادم API بـ FastAPI (30 دقيقة)

لماذا FastAPI: نقطة نهاية متوافقة مع OpenAI. بديل مباشر لواجهة OpenAI الفعلية في كودك.

  1. 1
    ثبِّت Python 3.10+: `python --version`.
  2. 2
    ثبِّت vLLM: `pip install vllm torch`.
  3. 3
    ابدأ خادم vLLM: `python -m vllm.entrypoints.openai.api_server --model meta-llama/Llama-3.3-8B-Instruct --port 8000`.
  4. 4
    اختبر نقطة النهاية: `curl http://localhost:8000/v1/chat/completions -d '{"model": "Llama-3.1-8B-Instruct", "messages": [{"role": "user", "content": "Write Python code for Fibonacci"}]}' -H "Content-Type: application/json"`.
  5. 5
    الدمج في IDE: وجِّه امتداد Copilot إلى `http://localhost:8000`.
  6. 6
    الطلبات على دفعات: أرسل عدة مطالبات بالتوازي؛ يعالجها vLLM جميعًا في آن واحد.

المستوى 3: إنتاج متعدد المستخدمين (ساعتان)

يتوسع إلى 50+ مطورًا متزامنًا (5 token/ثانية لكل منهم) على جهاز بـ GPU مزدوجة. التكلفة: الكهرباء فقط (نحو 100 دولار/شهر إذا كان نشطًا على مدار الساعة).

  1. 1
    انشر نسختين من vLLM على وحدات GPU منفصلة (GPU 0، GPU 1).
  2. 2
    اضبط nginx لموازنة الطلبات بين النسختين.
  3. 3
    اضبط Prometheus لجمع المقاييس (زمن استجابة الطلبات، token/ثانية، الأخطاء).
  4. 4
    أضِف تحديد المعدل لكل مستخدم (خوارزمية token bucket).
  5. 5
    انشر على VM سحابية أو خادم محلي بشبكة 10 Gbps.
  6. 6
    راقب عبر لوحة Grafana (اختياري).

التكامل مع IDE (VS Code وCursor)

الإعداد لإكمال الكود في الوقت الفعلي:

البديل (دعم IDE الأصلي): يتمتع محرر Cursor بدعم مدمج لنماذج LLM المحلية (لا يلزم امتداد).

  1. 1
    ثبِّت امتداد "Continue" (`continue.dev`).
  2. 2
    افتح إعدادات الامتداد واضبط واجهة API المخصصة: `http://localhost:8000/v1` (نقطة نهاية vLLM).
  3. 3
    اضبط اسم النموذج ليطابق خادم vLLM (`meta-llama/Llama-3.3-8B-Instruct`).
  4. 4
    اضغط Ctrl+Shift+Space (أو cmd+shift+space) لتفعيل الإكمال.
  5. 5
    تُبَث الإكمالات في الوقت الفعلي (10-20 token/ثانية).

التصحيح والمراقبة

  • سجلات vLLM: راجع stdout بحثًا عن الأخطاء (تحميل النموذج، OOM، أخطاء CUDA).
  • مقاييس Prometheus: يصدِّر vLLM نقطة نهاية `/metrics` (عدد الطلبات، مدرَّج تكراري لزمن الاستجابة، الـ token المولَّدة).
  • عد الـ token: استخدم مكتبة `tiktoken` لعد الـ token قبل الإرسال (تجنب مفاجآت OOM).
  • تحليل زمن الاستجابة: أضِف تسجيل الطوابع الزمنية قبل/بعد استدعاء vLLM لتحديد الاختناقات.

السياق الإقليمي والامتثال التنظيمي

  • الاتحاد الأوروبي / RGPD (أوروبا): يلبي الاستدلال المحلي المادة 28 من اللائحة العامة لحماية البيانات -- لا تغادر أي بيانات بنيتك التحتية. لا يلزم اتفاق معالجة بيانات. موصى به لأحمال العمل في الرعاية الصحية والقانون والمالية.
  • اليابان / METI: توصي إرشادات حوكمة الذكاء الاصطناعي الصادرة عن METI 2024 بالاستدلال المحلي للبيانات المؤسسية الحساسة. يفي إعداد vLLM + المستوى 3 بمتطلبات التدقيق الخاصة بـ METI.
  • الصين / PIPL: يتطلب قانون حماية المعلومات الشخصية الصيني (2021) إقامة البيانات. تُبقي الحزمة المحلية من المستوى 2/3 كل الاستدلال داخل البلاد. متوافق مع نسخ GPU من Alibaba Cloud وTencent Cloud.
  • الولايات المتحدة: لا يوجد تفويض فيدرالي لإقامة بيانات الذكاء الاصطناعي اعتبارًا من 2026. يجب على الكيانات الخاضعة لـ HIPAA ضمان عدم مغادرة المعلومات الصحية المحمية للبنية التحتية الخاضعة للرقابة -- يفي المستوى 2/3 بذلك افتراضيًا.

أخطاء الإعداد الشائعة

  • تشغيل vLLM على GPU نفسها مع عملية أخرى (Discord، الألعاب). يسبب أخطاء نفاد ذاكرة GPU.
  • إرسال الطلبات دون مهلة. إذا تعطل vLLM، ينتظر العميل إلى ما لا نهاية. اضبط دائمًا `timeout=60` في الطلبات.
  • افتراض أن vLLM يتوسع تلقائيًا على عدة وحدات GPU. يتطلب علامة `--tensor-parallel-size` الصريحة.
  • نسيان ضبط CUDA_VISIBLE_DEVICES في إعدادات متعددة GPU. يستخدم vLLM جميع وحدات GPU افتراضيًا.
  • استخدام نماذج Llama 3.3 في 2026. أوقفت Meta دعم Llama 3.3 للاستخدام التجاري في يناير 2026. استخدم Llama 3.3 8B Instruct (رخصة Apache 2.0، بلا قيود).
  • استخدام Llama 3.3 عندما يتوفر Llama 3.3. يتمتع Llama 3.3 8B Instruct باتباع أفضل للتعليمات وهو الافتراضي الموصى به اعتبارًا من أبريل 2026. استخدم `ollama run llama3.3:8b-instruct`.

الأسئلة الشائعة

أي مستوى ينبغي أن أستخدم؟

المستوى 1 للاستخدام الفردي (العَرَضي). المستوى 2 لمطوِّر واحد بتكامل IDE. المستوى 3 للفرق بخدمة على مدار الساعة.

هل يمكنني استخدام vLLM بدلًا من Ollama؟

نعم، لكنه يتطلب مزيدًا من الإعداد. vLLM أسرع (المعالجة على دفعات) وأكثر مرونة (واجهة Python).

كيف أُقدِّم النماذج على عدة وحدات GPU؟

vLLM: `--tensor-parallel-size 2`. يقسِّم النموذج على وحدتي GPU لمضاعفة معدل المعالجة.

هل يمكنني إجراء الضبط الدقيق فوق استدلال vLLM؟

لا. أجرِ الضبط الدقيق على نحو منفصل (HuggingFace Transformers) ثم حمِّل النموذج المُعدَّل في vLLM.

ماذا أفعل إذا أنتج vLLM خطأ OOM؟

استخدم تكميمًا أصغر (Q4 بدلًا من Q8)، أو قلِّل حجم الدفعة، أو خصِّص قدرًا أقل من VRAM لكل نموذج. راجع `nvidia-smi`.

هل المستوى 3 جاهز للإنتاج؟

نعم، مع المراقبة. أضِف Prometheus وGrafana والتنبيهات (Alertmanager). أنماط بنية تحتية قياسية.

المصادر

A Note on Third-Party Facts

This article references third-party AI models, benchmarks, prices, and licenses. The AI landscape changes rapidly. Benchmark scores, license terms, model names, and API prices can shift between the time of writing and the time you read this. Before making deployment or compliance decisions based on this article, verify current figures on each provider’s official source: Hugging Face model cards for licenses and benchmarks, provider websites for API pricing, and EUR-Lex for current GDPR and EU AI Act text. This article reflects publicly available information as of May 2026.

Run PromptQuorum with a local LLM, your own API keys, or both — you pick the backend.

Join the PromptQuorum Waitlist →

← Back to Local LLMs