كيفية تشغيل ⁨Qwen 3⁩ محليًا في ⁨2026⁩: دليل إعداد ⁨Ollama + LM Studio⁩

لماذا تشغّل Qwen محليًا في 2026

اختر نموذج Qwen

متطلبات الأجهزة

• الحد الأدنى (Qwen 3.6 27B): بطاقة رسوم بسعة 16 GB من VRAM — RTX 4080 أو RTX 4070 Ti Super أو RTX 3090
• بطاقة الرسوم الموصى بها: RTX 4090 (24 GB VRAM) — تشغّل Q4_K_M بـ 35 token/ثانية بهامش 8 GB
• Apple Silicon M3/M4 (الحالي): M3 Max أو M4 Pro بذاكرة موحدة 48 GB — هادئ، كفؤ في الطاقة، 40+ token/ثانية عبر MLX
• Mac Mini M4 Pro (48 GB): ~€1,599 في المتجر، هيئة مدمجة، أفضل إجمالي تكلفة ملكية للنشر في مكاتب الاتحاد الأوروبي
• Apple Silicon M5 Pro (64 GB): الجيل التالي، عرض نطاق ذاكرة 307 GB/s — يشغّل Qwen 3.6 27B بمعدّل مقدّر 50+ token/ثانية. تفيد Apple بمعالجة أوامر LLM أسرع بـ 4× من M4.
• Apple Silicon M5 Max (128 GB): عرض نطاق ذاكرة 460–614 GB/s — يشغّل Qwen 3 72B Q4_K_M بأريحية وهامش. متوقع منتصف 2026 في Mac Studio؛ يأتي Mac Mini الحالي بـ M4 Pro.
• RAM: 32 GB كحد أدنى من RAM النظام إلى جانب استدلال بطاقة الرسوم؛ 64 GB موصى بها إلى جانب بيئة تطوير كاملة
• التخزين: 20 GB مساحة قرص حرة لـ Qwen 3.6 27B Q4_K_M (ملف GGUF ~17 GB)

الإعداد عبر Ollama

1. 1
   ثبّت Ollama
   Why it matters: يدير Ollama تنزيلات النماذج وتنسيق GGUF ويوفّر واجهة API محلية متوافقة مع OpenAI.
2. 2
   نزّل نموذج Qwen 3.6 27B بوسم صريح
   Why it matters: استخدم qwen3.6:27b صراحةً. الوسم البسيط `qwen3` يُنزّل افتراضيًا نموذج 8B — لا نموذج 27B الذي يستهدفه هذا الدليل.
3. 3
   أنشئ Modelfile بطول سياق صحيح
   Why it matters: num_ctx الافتراضي البالغ 2048 token صغير جدًا لمهام البرمجة الفعلية. 32768 token يتعامل مع معظم الملفات والمحادثات.
4. 4
   ابنِ النموذج المخصص وشغّله
   Why it matters: أنشئ نسخة Qwen 3.6 27B بنافذة السياق الممتدة. تحقق بأمر اختبار.
5. 5
   اختبر نقطة نهاية API
   Why it matters: يكشف Ollama واجهة API متوافقة مع OpenAI على localhost:11434/v1. استخدم هذه النقطة لربط عملاء LLM وبيئات IDE وPromptQuorum.

# Step 1 — Install Ollama
# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows — download from https://ollama.com/download

# Step 2 — Pull Qwen 3.6 27B (explicit tag required)
ollama pull qwen3.6:27b
# Downloads Qwen 3.6 27B Q4_K_M (~17 GB)
# Note: 'ollama pull qwen3' without a tag downloads the 8B model

# Step 3 — Create Modelfile with correct num_ctx
cat > Modelfile <<'EOF'
FROM qwen3.6:27b
PARAMETER num_ctx 32768
PARAMETER temperature 0.7
EOF

# Step 4 — Build and run
ollama create qwen3-32k -f Modelfile
ollama run qwen3-32k

# Expected output (Qwen working correctly):
# >>> Write a Python function to reverse a string.
# def reverse_string(s: str) -> str:
#     return s[::-1]
#
# This function takes a string s as input and returns the reversed
# string using Python slice notation with step -1.

# Step 5 — Test API
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3-32k",
    "messages": [{"role": "user", "content": "Write a Python function to reverse a string."}]
  }'

الإعداد عبر LM Studio

1. 1
   نزّل وثبّت LM Studio
   Why it matters: واجهة رسومية مجانية متعددة المنصات لاستدلال LLM المحلي. لا حاجة لـ CLI.
2. 2
   ابحث عن Qwen 3 27B ونزّله
   Why it matters: يبحث متصفح النماذج في LM Studio في Hugging Face. ابحث عن "Qwen 3 27B" واختر متغير GGUF Q4_K_M لـ 16 GB VRAM.
3. 3
   اضبط طول السياق في إعدادات LM Studio
   Why it matters: نفس مشكلة num_ctx في Ollama — غيّر طول السياق إلى 32768 في معاملات النموذج قبل تحميله.
4. 4
   ابدأ الخادم المحلي
   Why it matters: زر "بدء الخادم" في LM Studio ينشئ واجهة API متوافقة مع OpenAI على localhost:1234. استخدم هذا العنوان في العملاء وPromptQuorum.
5. 5
   ثبّت Claude Code (اختياري)
   Why it matters: Claude Code هو CLI الخاص بـ Anthropic لتشغيل Claude محليًا. نزّله من https://claude.com/claude-code (جميع المنصات: macOS، Windows، Linux).
6. 6
   ثبّت وكيل Claude Code
   Why it matters: وكيل Claude Code المجاني (المبني على OpenClaw) يربط Claude Code بنماذج LLM المحلية. نفّذ: `uv run python -m uvicorn server:app --host 0.0.0.0 --port 8082`. على Windows، ابدأ بـ: `uv run python -m uvicorn server:app --host 0.0.0.0 --port 8082`.
7. 7
   اضبط Claude Code لاستخدام Qwen المحلي
   Why it matters: في إعدادات Claude Code، اضبط نقطة نهاية API على http://localhost:8082. سيوجّه Claude Code الطلبات عبر الوكيل إلى نسخة LM Studio لديك (localhost:1234)، مما يتيح لك استخدام Qwen 3.6 27B كمساعد برمجة.

// LM Studio local server config (exported JSON)
{
  "model": "qwen3.6-27b-q4_k_m",
  "server": {
    "host": "localhost",
    "port": 1234,
    "cors": true
  },
  "inference": {
    "context_length": 32768,
    "temperature": 0.7,
    "gpu_layers": -1
  }
}

الاتصال بـ PromptQuorum

# PromptQuorum dispatch config — local Qwen via Ollama
# Set in your .env or PromptQuorum settings panel

OLLAMA_BASE_URL=http://localhost:11434/v1
LOCAL_LLM_MODEL=qwen3.6:27b

# Example routing rules (PromptQuorum dispatch):
# - task_type: code       → model: qwen3.6:27b  (local Ollama, GDPR-safe)
# - task_type: analysis   → model: claude-sonnet-4-6 (Anthropic API, separate config)
# - task_type: private    → model: qwen3.6:27b  (local Ollama, no cloud egress)

حل المشكلات

• استجابة النموذج تنقطع في منتصف الجملة: num_ctx منخفض جدًا. أعد بناء Modelfile بـ `PARAMETER num_ctx 32768` وأعد إنشاء النموذج بـ `ollama create`.
• خطأ CUDA out of memory: النموذج لا يتسع في VRAM لديك. انتقل إلى Qwen 3 14B Q4_K_M (~9 GB VRAM) أو جرّب تكميم Q3_K_S من 27B.
• واجهة API الخاصة بـ Ollama تعيد 404: تأكد من تطابق اسم النموذج تمامًا. نفّذ `ollama list` لرؤية النماذج المتاحة. استخدم الاسم الدقيق المعروض (مثلًا `qwen3-32k`).
• توليد بطيء (< 5 token/ثانية): طبقات بطاقة الرسوم غير مفرَّغة بالكامل. نفّذ `ollama run qwen3-32k` وتحقق من أن `num_gpu_layers` على الحد الأقصى. تأكد من عدم تشغيل أي عملية أخرى كثيفة على بطاقة الرسوم.
• LM Studio يعرض "فشل تحميل النموذج": VRAM غير كافٍ. قلّل طول سياق Q4_K_M إلى 16384 أو انتقل إلى Qwen 3 14B.
• PromptQuorum يعيد خطأ مصادقة: اضبط `OLLAMA_BASE_URL=http://localhost:11434/v1` في إعدادات LLM المحلي في PromptQuorum. إذا طلب النموذج مفتاحًا، أدخل أي سلسلة غير فارغة — لا يتطلب Ollama مصادقة بمفتاح API.
• Ollama يستخدم CPU بدلًا من بطاقة الرسوم: على NVIDIA: تأكد من تثبيت تعريفات CUDA (يجب أن يعرض `nvidia-smi` بطاقة الرسوم). على Mac: يستخدم Ollama Metal تلقائيًا — لا حاجة لإعداد. إذا لم يكن Metal نشطًا، أعد تثبيت Ollama من ollama.com.
• تنزيل النموذج يتوقف أو يفشل: قد تنتهي مهلة النماذج الكبيرة (Qwen 3.6 27B ~17 GB) على الاتصالات البطيئة. نفّذ `ollama pull qwen3.6:27b` مجددًا — يستأنف Ollama من حيث توقف. بديلًا، نزّل GGUF مباشرة من Hugging Face واستخدم `ollama create` بمسار محلي في فقرة FROM من Modelfile.

استهلاك الطاقة وإجمالي تكلفة الملكية

قراءات ذات صلة

• Qwen 3.6 مقابل Claude Sonnet 5 مقابل DeepSeek — مقارنة 2026
• لماذا تتحول شركات الاتحاد الأوروبي إلى Qwen المحلي
• Qwen Coder مقابل DeepSeek مقابل Mistral — معيار البرمجة 2026
• Local AI Production Deployment: Building a Privacy-First Customer Service Agent — دراسة حالة لـ Rob Braxman حول مفاضلات الأجهزة وإدارة الذاكرة والأداء في الإنتاج لوكلاء الذكاء الاصطناعي ذاتيي الاستضافة.
• عرض جميع أدلة نماذج LLM المحلية
• انضم إلى قائمة انتظار PromptQuorum

الأسئلة الشائعة