هل يمكن تشغيل LLM محلي على جهاز Raspberry Pi 5؟
تحتوي هذه الصفحة على روابط مرجعية لمنتجات طرف ثالث. لا يشارك PromptQuorum في أي برنامج تابع — هذه روابط عادية لا تدر أي عمولة. النقر على الروابط والخطوات التالية تقع على عاتقك بالكامل. لا تمثل هذه الروابط أي تأييد أو تحقق من قِبَل PromptQuorum.
إجابة سريعة
نعم. يشغّل Pi 5 (8GB) نماذج 1B-3B عبر Ollama أو llama.cpp على المعالج وحده — وهذا تقريبًا السقف العملي. أضف Raspberry Pi AI HAT+ 2 الرسمي (وحدة Hailo-10H) للحصول على تسريع GenAI مخصص، وخادم Hailo Ollama الخاص به، ومساحة لنماذج أكبر.
- ▸أفضل إعداد اقتصادي: Pi 5 بذاكرة 8GB + تبريد نشط — أرخص طريقة لتجربة النماذج الصغيرة جدًا.
- ▸أفضل إعداد للذكاء الاصطناعي: Pi 5 + Raspberry Pi AI HAT+ 2 — وحدة Hailo-10H مخصصة لأحمال عمل GenAI.
- ▸نطاق النماذج مع Pi 5 وحده: حوالي 1B-3B معامل بدقة Q4 — لا تتوقع سرعة بطاقة GPU لسطح المكتب.
- ▸أفضل استخدام: مساعد خاص دائم التشغيل، أتمتة منزلية، أو تجارب غير متصلة بالإنترنت — وليس روبوت دردشة سريع للاستخدام اليومي.
النقاط الرئيسية
- ✓نعم — يشغّل Raspberry Pi 5 بذاكرة 8GB نماذج 1B-3B عبر Ollama أو llama.cpp باستخدام المعالج وحده
- ✓يضيف Raspberry Pi AI HAT+ 2 الرسمي وحدة Hailo-10H مصممة خصيصًا لـ GenAI على الجهاز، مع خادم Hailo Ollama الخاص بها
- ✓اشترِ التكوين بذاكرة 8GB — يترك طراز 4GB هامشًا ضئيلًا جدًا للنموذج بالإضافة إلى نظام التشغيل
- ✓يستحق التبريد النشط الإضافة لأي حمل عمل استدلال مستمر، وليس فقط الاختبارات القصيرة
- ✓أفضل استخدام: مساعد خاص دائم التشغيل، أتمتة منزلية، أو تجارب غير متصلة بالإنترنت — وليس روبوت دردشة سريع للاستخدام اليومي
- ✓لعمل LLM محلي جاد بحجم 7B فأكثر، سيتفوق أي حاسوب بطاقة GPU أو mini PC على أي تكوين Pi 5
إعداد اقتصادي: Raspberry Pi 5 وحده
يشغّل جهاز Raspberry Pi 5 العاري (8GB) نماذج بمعاملات 1B-3B بتكميم Q4 عبر Ollama أو llama.cpp — نماذج مثل Llama 3.2 1B وLlama 3.2 3B وQwen3 1.7B. كل شيء يعمل على المعالج رباعي النوى: وحدة الرسومات VideoCore المدمجة في Pi 5 ليست مسرّعًا عمليًا لـ llama.cpp، لذا لا توجد زيادة سرعة تُذكر من GPU على اللوح العاري.
تضع معايير أداء المجتمع النماذج الصغيرة بدقة Q4 عند حوالي 4-9 رموز في الثانية على معالج Pi 5، حسب النموذج وبيئة التشغيل الدقيقة — أبطأ بشكل ملحوظ من استدلال بطاقة GPU لسطح المكتب، لكنها قابلة للاستخدام للاستعلامات القصيرة والتجربة العرضية.
الأفضل لـ: مساعدين غير متصلين بالإنترنت للاستعلامات البسيطة، تجارب Home Assistant، سكربتات الأتمتة، وتعلّم كيفية عمل الاستدلال المحلي. اشترِ التكوين بذاكرة 8GB — يترك طراز 4GB هامشًا ضئيلًا جدًا للنموذج بالإضافة إلى Raspberry Pi OS.
الأفضل: Pi 5 + Raspberry Pi AI HAT+ 2
يحوّل Raspberry Pi AI HAT+ 2 الرسمي جهاز Pi 5 إلى نظام ذكاء اصطناعي طرفي مصمم خصيصًا بإضافة وحدة Hailo-10H و8GB من الذاكرة المخصصة. تؤكد وثائق Raspberry Pi الرسمية دعم GenAI/LLM من خلال Hailo GenAI Model Zoo، بما في ذلك خادم Hailo Ollama يمكنك الاستعلام عنه عبر الشبكة أو من خلال واجهة دردشة تعتمد على المتصفح.
توفّر Hailo-10H أداء استدلال يصل إلى 40 TOPS بدقة INT4، وتأتي مع عدة نماذج صغيرة جاهزة للتشغيل (حوالي 1B-1.5B معامل، بما في ذلك إصدارات من Qwen2 وLlama 3.2) — طريق أسرع ومختلف بشكل ملموس عن الاستدلال المعتمد على المعالج فقط لأي شخص يريد جهاز ذكاء اصطناعي طرفي حقيقيًا وليس تجربة هواية.
اشترِ هذا الإعداد إذا كنت تريد تسريع GenAI مخصصًا وترتاح لبيئة برمجية لا تزال في طور النضج — أطلقت Raspberry Pi جهاز AI HAT+ 2 في يناير 2026، وقد يتأخر إصدار الحزمة الموثق عن وتيرة إصدارات Hailo نفسها.
Pi 5 مقابل Pi 5 + AI HAT+ 2 مقابل حاسوب بطاقة GPU
تضييق إضافة AI HAT+ 2 للفجوة مع بطاقة GPU حقيقي، لكن بطاقة GPU منفصلة أو حاسوب GPU لا يزال يفوز في حجم النموذج والسرعة الخام.
| الإعداد | قدرة الذكاء الاصطناعي المحلي | الأفضل لـ |
|---|---|---|
| Pi 5 وحده | نماذج 1B-3B، معالج فقط | أرخص تجربة، التعلّم |
| Pi 5 + AI HAT+ 2 | NPU مخصصة، نماذج GenAI 1B-1.5B | جهاز ذكاء اصطناعي طرفي حقيقي |
| حاسوب GPU / mini PC | نماذج 7B فأكثر، أسرع بكثير | استخدام LLM محلي جاد يوميًا |
التبريد للاستدلال المستمر
الاستدلال المستمر المكثف على المعالج أو NPU يجعل الجهاز أدفأ من الاستخدام العادي — المبرّد النشط الرسمي من Raspberry Pi (مبدد حراري قابل للتركيب بمروحة تعمل بالتحكم الحراري) إضافة رخيصة وموثقة جيدًا إذا كنت تخطط لتشغيل الاستدلال لفترات ممتدة بدلًا من اختبارات قصيرة.
تخزين NVMe لخادم دائم التشغيل
إذا أصبح الجهاز خادم ذكاء اصطناعي محلي دائم التشغيل، فإن التخزين عبر NVMe باستخدام Raspberry Pi M.2 HAT+ الرسمي (الذي يستخدم واجهة PCIe في Pi 5) أكثر موثوقية تحت حمل قراءة/كتابة مستمر من بطاقة microSD — يستحق الإضافة بمجرد تجاوز الاختبار العرضي.
ماذا يمكنك أن تبني فعليًا؟
يناسب إعداد LLM محلي على Pi 5 تجارب المساعد المنزلي الخاص، وتكاملات الأتمتة المنزلية (راجع دليلنا حول بناء مساعد صوتي محلي لمعرفة توقعات زمن استجابة واقعية على عتاد من فئة Pi)، وتصنيف المستندات البسيط، والخدمات غير المتصلة بالإنترنت الدائمة التي لا تحتاج استجابات سريعة.
الخلاصة
الأرخص: جهاز Pi 5 عاري بذاكرة 8GB لنماذج 1B-3B والتجربة. أفضل إعداد ذكاء اصطناعي معتمد على Pi: Pi 5 + AI HAT+ 2 الرسمي لتسريع Hailo-10H المخصص. أفضل أداء بشكل عام: حاسوب GPU أو mini PC مصمم لـ LLM محلي — بالنسبة لنماذج 7B فأكثر، لا يقترب أي تكوين Pi من ذلك.
قراءات ذات صلة
- ▸أفضل LLM محلي لذاكرة VRAM سعة 6 GB — بديل GPU بميزانية منخفضة عملي فعليًا
- ▸كم RAM يحتاجه نموذج 7B؟ — لماذا 7B خارج متناول معالج Pi 5
- ▸أفضل جهاز mini PC لخادم Ollama دائم التشغيل — بديل دائم التشغيل أكثر عملية
- ▸بناء مساعد صوتي محلي — زمن استجابة واقعي عبر فئات عتاد Pi وmini PC وGPU
الأسئلة الشائعة
هل يحتاج Raspberry Pi 5 إلى تبريد نشط لاستدلال LLM؟▾
هل يدعم Raspberry Pi AI HAT+ 2 فعليًا نماذج LLM؟▾
هل Ollama أفضل طريقة لتشغيل LLM على Raspberry Pi 5؟▾
هل Raspberry Pi 5 جيد لتشغيل مساعد صوتي مع LLM محلي؟▾
ما الحد الأدنى من RAM لأي LLM محلي على Pi 5؟▾
لقطات سريعة ذات صلة