⁦Unsloth⁩ على جهاز ⁦Mac⁩ بذاكرة ⁦24 GB⁩: تطبيق متقن، لكن نفدت الذاكرة قبل أول صورة

المثبّت ملف ⁦DMG⁩ بحجم ⁦24 MB⁩، قرأه المختبِر على أنه '⁦the smallest file I've ever seen⁩'.

النافذة الأولى: '⁦Getting things ready... This won't take long.⁩' مع رابط '⁦Show setup details⁩'. يقول المختبِر: '⁦Already feels much more polished than the other apps... a clear communication.⁩'

يقرأ السجل التفصيلي: '⁦Updating existing Unsloth install⁩' و'⁦frontend bundled (Tauri)⁩' و'⁦node v24.13.0 | npm 11.6.2 (system)⁩' و'⁦unsloth 2026.8.18 -> 2026.10.3 available, updating⁩'، ثم شريط تبعيات من ⁦13⁩ خطوة (⁦pip bootstrap⁩ وحزمة ⁦MLX⁩ لشرائح ⁦Apple Silicon⁩ والحزم الأساسية وإضافات ⁦unsloth⁩ والمرمّزات والتجاوزات وتبعيات ⁦studio⁩ و⁦data designer⁩ والملحق المحلي وتثبيت ⁦diffusers⁩ والإنهاء). ملاحظات: '⁦torch 2.10.0 detected -- installing torchao==0.16.0⁩'؛ '⁦transformers 5.3.0, 5.5.0, 5.10.2 pre-installed⁩'؛ '⁦gpu Apple Silicon (Metal, unified memory)⁩'؛ '⁦installing prebuilt llama.cpp⁩'.

يقول المختبِر إن الإعداد استمر نحو أربع أو خمس دقائق ثم فُتح التطبيق. لا يُظهر السجل تقديرًا للوقت ولا لمساحة القرص.

أربع إلى خمس دقائق للإعداد. لم يُقَس زمنها.

يُرجَّح أن ملف ⁦DMG⁩ الصغير ينزّل معظم البرمجيات خلال هذه الخطوة الأولى. لم يُتحقق من ذلك.

'⁦It gives me the details about what it does -- great -- but it doesn't tell me anything about estimated time, volumes, how much disk space it takes up.⁩'

تُفتح النافذة الرئيسية مع '⁦How can I help?⁩' وشريط جانبي: ⁦New chat⁩ و⁦Model hub⁩ و⁦Library⁩ و⁦Images⁩ و⁦Train⁩ و⁦More⁩. يحمل الشعار وسم ⁦BETA⁩.

بدأ الاختبار من تثبيت قائم ('⁦same as before⁩')، فهو تحديث لا اختبار أول تشغيل. تحتاج استنتاجات التهيئة الأولى إلى تثبيت نظيف لتأكيدها.

يسرد منتقي النماذج نماذج '⁦Recommended⁩' بأرقام مثل ⁦27.3B⁩ و⁦271.0M⁩. هذه أعداد معاملات لا غيغابايت. وهناك عنصران باهتان (⁦176.9B⁩ و⁦320.8B⁩).

يُرجَّح أن العناصر الباهتة أكبر من أن يتحملها هذا الجهاز. لا يقول منظر التطبيق الملتقط ذلك.

'⁦There were lots of models listed with the size. Very good.⁩' الأرقام المعروضة أعداد معاملات، لذا لا تخبر القارئ بحجم الذاكرة التي يحتاجها النموذج.

بدل اختيار نموذج، كتب المختبِر طلب عملية حسابية. بدأ التطبيق تحميل النماذج من تلقاء نفسه. بدأ نموذج ⁦Qwen3.8-27B MLX 4-bit⁩ في أقل من دقيقة بحسب الملاحظات؛ وأظهر إشعار ثانٍ تحميل ⁦Mistral-7B-Instruct-v0.3-4bit⁩ (لقطة الشاشة محجوبة، من النوع نفسه كما في الشكل ⁦5⁩).

يعرض إشعار التحميل المسار ⁦/Users/hanskuepper/.lmstudio/models/lmstudio-community/Qwen3.8-27B-MLX-4bit⁩. قُرئ النموذج من مجلد ⁦LM Studio⁩ على القرص.

ظنّ أنه جاء من القرص الصلب، لأن '⁦that's a big model that doesn't go over the internet in one minute⁩'. ويدعم المسار هذا الظن. لا يُسجَّل لماذا اختار ⁦Unsloth⁩ هذا النموذج ونموذج ⁦Mistral⁩.

أُجيب عن السؤال '⁦what is 5 times 866⁩' بـ '⁦5 x 866 = 4,330⁩' (صحيح)، بعد '⁦Worked for 10s⁩'، بسرعة ⁦11.0 tok/s⁩. يعرض الرأس '⁦Local⁩' وعدّاد سياق '⁦120 / 262.1k⁩'.

ثم سأل المختبِر النموذج من أين حصل على النموذج. يتحدث الجزء الملتقط من الإجابة عن أوزان ⁦MLX⁩ والذاكرة الموحّدة في ⁦Apple Silicon⁩؛ والإجابة الكاملة غير ملتقطة. تقول الملاحظات إن الجواب كان أن التطبيق لا يبحث في القرص.

وصف نموذج الدردشة للتطبيق ليس دليلًا موثوقًا. تسمّي إحدى الإجابات النموذج '⁦Qwen 3 27B MLX 4-bit⁩' بينما يسميه التطبيق ⁦Qwen3.8-27B-MLX-4bit⁩.

تسرد علامة تبويب '⁦On Device⁩' النماذج بحسب المصدر. تحت '⁦CUSTOM FOLDERS⁩' يظهر مساران (⁦.lmstudio/models⁩ و⁦.ollama/models⁩) مع نماذج ⁦Ollama⁩: ⁦gemma4:latest⁩ و⁦gemma3:1b⁩ و⁦qwen3-coder:30b⁩. وتحت '⁦LM STUDIO⁩' يُوسم نموذج ⁦Qwen3.8-27B⁩ بأنه '⁦Loaded⁩'.

إما أن المختبِر أضاف المجلدين أو أن التطبيق وجدهما بنفسه. غير مسجَّل. قد يكون الاستخدام السابق للتطبيق قد أعدّهما.

يُظهر التبديل إلى ⁦qwen3-coder:30b⁩ (⁦30.5B⁩ و⁦Q4_K_M⁩ و⁦GGUF⁩) الرسالة '⁦Starting model... Switching models. Loading cached model into memory.⁩' مع زر ⁦Cancel⁩. يقرأ عدّاد السياق '⁦1.3k / 8.2k⁩'، وهو أصغر بكثير من ⁦262.1k⁩ للنموذج الأول.

'⁦I like how easy to change models.⁩' '⁦Some Ollama models do not work inside Unsloth, but great that it tried at least.⁩'

بحسب الملاحظات، عمل نموذج أقدم وانهار نموذج أحدث. النماذج المقصودة غير مسجَّلة.

يقول إنه '⁦great that it tried⁩' استخدام نماذج ⁦Ollama⁩ لديه، وإن قراءة النماذج الموجودة أصلًا على القرص تجنّبه تنزيلًا كبيرًا آخر.

يعرض ⁦Hub⁩ الجهاز: '⁦0 GiB VRAM + 24 GiB shared⁩' و'⁦24 GiB RAM⁩' و'⁦12/12 CPU⁩'، إضافةً إلى مرشّحات (التنسيق والقدرات والأحدث). تعرض البطاقات الإعجابات والتنزيلات والعمر والترخيص (⁦embeddinggemma-2-GGUF⁩: ⁦apache-2.0⁩، ⁦1.5 GB⁩).

'⁦Yes, great model hub.⁩' يسرد ⁦Hub⁩ من بين ما يسرد ⁦Qwen-Image-2.1-GGUF⁩ (⁦850.0K⁩ تنزيل، عمره ⁦16⁩ يومًا) و⁦GLM-5.3-GGUF⁩ و⁦Qwen3.8-Flash-Next-GGUF⁩.

بحسب الملاحظات، أعطى النقر على ملف أكبر من أن يحتمله الجهاز عدة تحذيرات ('⁦this file is 30 to 40 gigabytes total⁩')؛ ومع ذلك يُسمح بالتنزيل. لا توجد لقطة شاشة.

تقرأ لوحة التنزيل لـ ⁦unsloth/Qwen3.8-27B-GGUF UD-Q5_K_S⁩: ⁦1.2 GB⁩ من ⁦20 GB⁩ بسرعة ⁦1.4 MB/s⁩، متبقٍ ⁦3 h 47 m⁩؛ ثم لاحقًا ⁦7.1 GB⁩ من ⁦20 GB⁩ بسرعة ⁦983 KB/s⁩، متبقٍ ⁦3 h 31 m⁩.

'⁦The professionalism of this app is visible. It has a timer attached. It tells you the download speed.⁩'

توحي السرعتان باتصال بطيء في مكان الاختبار؛ ولا يقول المختبِر ذلك. لا يُسجَّل هل انتهى التنزيل.

يسرد مربع حوار ⁦Z-Image (BF16)⁩ ملفات النموذج ⁦12.3 GB⁩ إضافةً إلى المرمّز وفاك الترميز المطلوبين ⁦8.2 GB⁩، فيكون المجموع ⁦20.5 GB⁩. وهذا يفسّر '⁦difference between the gigabytes that the model has and then something else⁩' التي يذكرها المختبِر في موضع آخر.

تقول الملاحظات '⁦the picture LLM was downloaded⁩'. أيّ نموذج هو غير مسجَّل؛ وتُظهر لقطات الشاشة نموذجي الصور ⁦FLUX.2-klein-4B⁩ ونسخته ⁦GGUF⁩ على الجهاز (الشكل ⁦18⁩).

لصق المختبِر عنوان صفحة من ⁦PromptQuorum⁩ وسأل '⁦from a seo perspective will this help me?⁩'. تعرض الدردشة '⁦Using tool: Reading promptquorum.com⁩' و'⁦Waiting for approval: web_search⁩' مع الأزرار ⁦Allow⁩ و⁦Always allow⁩ و⁦Deny⁩. الوقت ⁦5:13 PM⁩؛ السياق '⁦648 / 34.4k⁩'.

بحسب الملاحظات، قالت المحاولة الأولى إنه لا يمكنها قراءة الصفحة؛ وبعد النقر على وظيفة ⁦Search⁩ نجحت في المرة الثانية. '⁦Maybe the first time should have had a warning.⁩'

قد يكون الفشل الأول ناتجًا عن غياب موافقة البحث في الويب أو عن إيقاف مفتاح ⁦Search⁩. لم يُتحقق من ذلك.

انتهى التشغيل بالرسالة '⁦Ran out of memory. Try a smaller model or shorter input.⁩' بعد ⁦168.10 s⁩، مع زر ⁦Retry⁩.

إدخال الصوت مدمج. يطلب استخدامه تنزيل نموذج الكلام '⁦Qwen3-ASR 0.6B⁩'، نحو ⁦1.0 GB⁩، ويقول إنه يُجلب مرة واحدة إلى ذاكرة ⁦Hugging Face⁩ المؤقتة. لا يُسجَّل هل نزّله المختبِر.

جرى بحث محلي عن فعالية ('⁦What is happening tonight in Heidelberg, Germany?⁩') في جولتين من استدعاءات الأدوات وانتهى بـ '⁦Ran out of memory⁩' بعد ⁦110.65 s⁩. يعرض الرأس ملاحظة حمراء: '⁦Failed to load model: No safetensors found in /Users/.../.cache/huggin...⁩'.

قد يكون خطأ التحميل ورسالة نفاد الذاكرة مرتبطين (نموذج يجري تبديله بينما تضيق الذاكرة). لا تُظهر لقطة الشاشة وجود صلة.

'⁦But yes, local AI, always some issues.⁩'

كان هدف المختبِر الصور. يضم الشريط الجانبي عنصر '⁦Images⁩'. وتعرض الملاحظات طلبًا طويلًا عن أفق ⁦New York⁩ (منظر من ⁦Brooklyn⁩ وجسر ⁦Brooklyn⁩ والساعة الذهبية وتفاصيل ⁦8K⁩) مع قوائم للتكوين وللتجنّب. لا تُسجَّل له نتيجة أو خطأ أو إعدادات.

رُفض تحميل نموذج الصور ⁦flux.2-klein⁩: '⁦needs about 17 GB of memory for its weights, but only about 2 GB is usable on this device (of the 7 GB currently free, after reserving room for the operating system)⁩'. وتضيف أن جهاز ⁦Mac⁩ له مجمّع ذاكرة واحد وأن النقل إلى المعالج لا يحرّر شيئًا، وتقترح نموذجًا أصغر أو تكميمًا أدنى أو إغلاق تطبيقات أخرى. وتذكر ⁦UNSLOTH_DIFFUSION_ALLOW_OVERSIZED_LOAD=1⁩ طريقةً للتجاوز.

بعد إعادة تشغيل نظيفة تقول الرسالة: نحو ⁦17 GB⁩ مطلوبة، ونحو ⁦6 GB⁩ صالحة للاستخدام، من ⁦11 GB⁩ فارغة حاليًا.

تختلف الرسالتان بمقدار ⁦5 GB⁩ في الزوجين (⁦7 - 2⁩ و⁦11 - 6⁩)، فيبدو أن التطبيق يحجز نحو ⁦5 GB⁩ لنظام التشغيل. نقطتا بيانات فقط.

تعرض قائمة الجهاز ⁦FLUX.2-klein-4B-GGUF⁩ (⁦7.8 GB⁩) و⁦FLUX.2-klein-4B⁩ (⁦16 GB⁩) و⁦mistral-7b-v0.3-bnb-4bit⁩ (⁦4.1 GB⁩). يقول المختبِر: '⁦This should be small enough.⁩' ويقول إن أصغر نموذج صور في ⁦Hub⁩ يُسقط جهازه ذا ⁦24 GB⁩، وإن النماذج التي نقر عليها قالت جميعها إنها كبيرة جدًا لأن '⁦seven gigabytes⁩' فقط كانت متاحة.

يتساءل المختبِر لماذا تتوفر سبعة غيغابايت فقط ('⁦I have much more⁩'). يذكر مربع الحوار أن ⁦7 GB⁩ كانت فارغة في تلك اللحظة وأن التطبيقات الأخرى كانت تعمل؛ وبعد إعادة التشغيل يذكر ⁦11 GB⁩. تضع الملاحظات تعليق '⁦7 GB⁩' بجوار مربع حوار ⁦Z-Image⁩؛ أما الرقم ⁦7 GB⁩ ففي رسالة ⁦flux.2-klein⁩.

'⁦I'm lost... I have a 24-gigabyte machine and I cannot find an LLM that can serve me and can do the job.⁩' يرى أن ⁦24 GB⁩ أكثر مما لدى أكثر من ⁦80⁩ بالمئة من قرائه (تقديره، لا رقم مقيس).

'⁦More than 80% of my readers⁩' لديهم ⁦24 GB⁩ أو أقل. لا يُذكر المصدر.

يستنتج المختبِر أن النماذج المحلية والعمل اليومي يتنافسان على الذاكرة نفسها، وأن ⁦Chrome⁩ وتطبيقات أخرى تستهلك من ⁦5⁩ إلى ⁦8 GB⁩. وقد كتب '⁦VRAM⁩' في كل مواضع الملاحظات؛ بينما لدى ⁦Apple Silicon⁩ مجمّع ذاكرة واحد، كما يقول ⁦Hub⁩ ('⁦0 GiB VRAM + 24 GiB shared⁩').

⁦Activity Monitor⁩، لقطة واحدة: الذاكرة المستخدمة ⁦12.92 GB⁩، والملفات المخزَّنة مؤقتًا ⁦10.95 GB⁩، وذاكرة التطبيقات ⁦9.81 GB⁩، والمقيَّدة ⁦1.83 GB⁩، والمبادلة ⁦0⁩.

⁦Activity Monitor⁩، لقطة أخرى: الذاكرة المستخدمة ⁦9.67 GB⁩، والملفات المخزَّنة مؤقتًا ⁦8.14 GB⁩، وذاكرة التطبيقات ⁦6.97 GB⁩، والمقيَّدة ⁦1.71 GB⁩، والمبادلة ⁦0⁩. يتوافق الرسم القصير للسجل مع بدء تشغيل حديث.

الرقم ⁦11 GB⁩ 'الفارغة حاليًا' في الشكل ⁦15⁩ متسق مع ⁦24.00 - 12.92 = 11.08 GB⁩ من الشكل ⁦16⁩. لا يُسجَّل هل التُقطت اللقطتان في الوقت نفسه.

'⁦Even after reboot, already nine gigabytes gone for general things.⁩' '⁦Either I shut the computer down, reboot, stop all the processes... or I cannot run the LLM.⁩'

جوابان محتملان: يجب أن تصغر النماذج وتتحسن، أو تحتاج الحواسيب إلى ⁦48⁩ أو ⁦64 GB⁩. '⁦All of this talk about this works on your computer is a little bit fake.⁩'

أن ⁦48⁩ أو ⁦64 GB⁩ ستحل هذا 'بثقة' أمر لم يُختبر.

يعرض بدء تشغيل نموذج إشعارًا '⁦Starting model... Loading cached model into memory.⁩' مع مؤشر دوّار وزر ⁦Cancel⁩. لا نسبة مئوية ولا حجم ولا وقت.

استمر الانتظار أكثر من دقيقتين أو ثلاث (لم يُقَس).

'⁦The worst way you can treat a client is to do the work and not update the client.⁩' ويصف المختبِر هذا بأنه مشكلة في واجهة المستخدم.

تعرض عدّادات الرأس الرموز المستخدمة مقابل السياق (مثل '⁦648 / 34.4k⁩') والرموز في الثانية (⁦11.0 tok/s⁩).

تقول الملاحظات '⁦no token counter⁩'. تُظهر لقطات الشاشة عدّاد سياق ورقم رموز في الثانية. قد يكون مقصوده عدّاد رموز لكل رسالة (افتراض).

تصف الملاحظات نموذج دردشة محليًا بأنه '⁦the most stupid idea⁩' لأنه '⁦does not research the internet⁩'. وتُظهر الملاحظات ولقطات الشاشة نفسها وظيفة ⁦Search⁩ ومطالبة موافقة على البحث في الويب واستدعاءات أدوات تقرأ صفحة.

لا يريد تدريب النماذج؛ وفائدة الدردشة له قليلة؛ ويريد أداة للصور والفيديو و'⁦is not seeing it yet⁩'. لم يُجرَّب التدريب ولا علامة تبويب '⁦Train⁩'.

'⁦Maybe it's on my side, but no, not for me. I'll check again in three or six months, but currently not on a M3 24 GB Pro MacBook.⁩'