24 GBのMacでUnsloth：洗練されたアプリだが、最初の画像を作る前にメモリ不足

インストーラーは24 MBのDMGで、テスターは'the smallest file I've ever seen'と受け止めました。

最初のウィンドウ：'Getting things ready... This won't take long.'と、'Show setup details'のリンク。テスター：'Already feels much more polished than the other apps... a clear communication.'

詳細ログには次のように表示されます。'Updating existing Unsloth install'、'frontend bundled (Tauri)'、'node v24.13.0 | npm 11.6.2 (system)'、'unsloth 2026.8.18 -> 2026.10.3 available, updating'。続いて13ステップの依存関係バー（pipブートストラップ、Apple Silicon向けMLXスタック、基本パッケージ、unslothエクストラ、コーデック、オーバーライド、studio依存、data designer、ローカルプラグイン、diffusersのピン留め、仕上げ）。注記：'torch 2.10.0 detected -- installing torchao==0.16.0'、'transformers 5.3.0, 5.5.0, 5.10.2 pre-installed'、'gpu Apple Silicon (Metal, unified memory)'、'installing prebuilt llama.cpp'。

テスターによれば、約4〜5分動いたあとでアプリが開きました。ログには時間の見積もりもディスク容量の見積もりもありません。

セットアップに4〜5分。計時はしていません。

小さなDMGは、この最初のステップでソフトウェアの大半をダウンロードしているのかもしれません。未確認。

'It gives me the details about what it does -- great -- but it doesn't tell me anything about estimated time, volumes, how much disk space it takes up.'

メインウィンドウは'How can I help?'と、サイドバー（New chat、Model hub、Library、Images、Train、More）で開きます。ロゴにはBETAのラベルが付いています。

既存のインストール（'same as before'）から始めたため、初回起動ではなく更新のテストです。オンボーディングについての結論は、クリーンインストールでの確認が必要です。

モデルピッカーのRecommendedには、27.3Bや271.0Mといった数値が並びます。これらはギガバイトではなくパラメータ数です。2件はグレーアウトしています（176.9Bと320.8B）。

グレーアウトした項目は、おそらくこのマシンには大きすぎるのでしょう。撮影した画面にはその説明がありません。

'There were lots of models listed with the size. Very good.'表示されている数値はパラメータ数なので、モデルに必要なメモリ量は読者には分かりません。

モデルを選ぶ代わりに、テスターは計算の依頼を入力しました。アプリは自動でモデルの読み込みを始めました。メモによると、Qwen3.8-27B MLX 4-bitモデルは1分足らずで起動し、2つ目のトーストにはMistral-7B-Instruct-v0.3-4bitの読み込みが表示されました（スクリーンショットは非掲載。図5と同じ種類）。

読み込みのトーストにはパス /Users/hanskuepper/.lmstudio/models/lmstudio-community/Qwen3.8-27B-MLX-4bit が表示されます。モデルはディスク上のLM Studioのフォルダから読み込まれました。

彼はハードディスクから来たのではと推測しました。'that's a big model that doesn't go over the internet in one minute'だからです。パスはこの推測を裏づけます。UnslothがなぜこのモデルとMistralのモデルを選んだのかは記録されていません。

'what is 5 times 866'という質問に、'Worked for 10s'のあと、11.0 tok/sで'5 x 866 = 4,330'と答えました（正解）。ヘッダーには'Local'と、コンテキストメーター'120 / 262.1k'が表示されています。

続いてテスターは、モデルにそのモデルをどこから入手したのかを尋ねました。回答の撮影部分はMLXの重みとApple Siliconのユニファイドメモリについてで、全文は残っていません。メモによると、回答は「アプリはドライブを検索しない」という内容でした。

チャットモデル自身によるアプリの説明は、信頼できる根拠ではありません。ある回答はモデルを'Qwen 3 27B MLX 4-bit'と呼んでいますが、アプリでの名前はQwen3.8-27B-MLX-4bitです。

On Deviceタブは、モデルをソース別に一覧表示します。CUSTOM FOLDERSには2つのパス（.lmstudio/modelsと.ollama/models）があり、Ollamaのモデルとしてgemma4:latest、gemma3:1b、qwen3-coder:30bが並びます。LM STUDIOの下ではQwen3.8-27Bモデルに'Loaded'と付いています。

2つのフォルダはテスターが追加したか、アプリが自動で見つけたかのどちらかですが、記録されていません。以前の使用で設定された可能性もあります。

qwen3-coder:30b（30.5B、Q4_K_M、GGUF）に切り替えると、'Starting model... Switching models. Loading cached model into memory.'とCancelボタンが表示されます。コンテキストメーターは'1.3k / 8.2k'で、最初のモデルの262.1kよりずっと小さい値です。

'I like how easy to change models.' 'Some Ollama models do not work inside Unsloth, but great that it tried at least.'

メモによると、古いモデルは動き、新しいモデルはクラッシュしました。どのモデルを指すのかは記録されていません。

彼はOllamaのモデルを使おうと'tried'した点を評価し、ディスク上のモデルを読み込めば、大きなダウンロードをもう一度しなくて済むと述べています。

ハブにはデバイス情報が表示されます：'0 GiB VRAM + 24 GiB shared'、'24 GiB RAM'、'12/12 CPU'。フィルタ（形式、機能、新着）もあります。カードにはいいね数、ダウンロード数、公開からの期間、ライセンスが表示されます（embeddinggemma-2-GGUF：apache-2.0、1.5 GB）。

'Yes, great model hub.'ハブにはQwen-Image-2.1-GGUF（ダウンロード85.0万件、公開16日）、GLM-5.3-GGUF、Qwen3.8-Flash-Next-GGUFなどが載っています。

メモによると、Macには大きすぎるファイルをクリックすると複数の警告（'this file is 30 to 40 gigabytes total'）が出ますが、ダウンロード自体は許可されます。スクリーンショットなし。

unsloth/Qwen3.8-27B-GGUF UD-Q5_K_Sのダウンロードパネルは、20 GB中1.2 GB、1.4 MB/s、残り3時間47分と表示。のちに20 GB中7.1 GB、983 KB/s、残り3時間31分。

'The professionalism of this app is visible. It has a timer attached. It tells you the download speed.'

この速度は、テスト場所の回線が遅いことを示唆しますが、テスター自身はそうは述べていません。ダウンロードが完了したかどうかは記録されていません。

Z-Image（BF16）のダイアログには、モデルファイル12.3 GBに必須のエンコーダとデコーダ8.2 GBを加えた合計20.5 GBと表示されます。これは、テスターが別の箇所で述べている'difference between the gigabytes that the model has and then something else'の説明になります。

メモには'the picture LLM was downloaded'とあります。どれかは記録されていません。スクリーンショットには、デバイス上の画像モデルFLUX.2-klein-4BとそのGGUF版が写っています（図18）。

テスターはPromptQuorumのページURLを貼り付け、'from a seo perspective will this help me?'と尋ねました。チャットには'Using tool: Reading promptquorum.com'と'Waiting for approval: web_search'が表示され、Allow、Always allow、Denyのボタンが出ます。時刻は午後5:13、コンテキストは'648 / 34.4k'。

メモによると、1回目はページを読めないと言われ、Search機能をクリックしたあとの2回目は動きました。'Maybe the first time should have had a warning.'

最初の失敗は、ウェブ検索の承認がなかったか、Searchのトグルがオフだったことが原因かもしれません。未確認。

実行は168.10秒後に'Ran out of memory. Try a smaller model or shorter input.'で終わり、Retryボタンが表示されました。

音声入力は内蔵されています。使うと、約1.0 GBの音声モデル'Qwen3-ASR 0.6B'のダウンロードを求められ、Hugging Faceのキャッシュに1回だけ取得されると表示されます。テスターがダウンロードしたかどうかは記録されていません。

ローカルのイベント検索（'What is happening tonight in Heidelberg, Germany?'）は、ツール呼び出しを2ラウンド実行し、110.65秒後に'Ran out of memory'で終わりました。ヘッダーには赤い注記'Failed to load model: No safetensors found in /Users/.../.cache/huggin...'が出ています。

読み込みエラーとメモリ不足のメッセージは関連しているのかもしれません（メモリが足りない状態でモデルが入れ替えられた場合）。スクリーンショットからは関連は読み取れません。

'But yes, local AI, always some issues.'

テスターの目標は画像でした。サイドバーには'Images'の項目があります。メモには、構図と避ける要素のリスト付きで、ニューヨークのスカイラインを描く長いプロンプトが載っています（ブルックリンからの眺め、ブルックリン橋、ゴールデンアワー、8Kのディテール）。これについて、結果・エラー・設定の記録はありません。

画像モデルflux.2-kleinの読み込みは拒否されました：'needs about 17 GB of memory for its weights, but only about 2 GB is usable on this device (of the 7 GB currently free, after reserving room for the operating system)'。さらに、Macのメモリは1つのプールであり、CPUへのオフロードでは何も空かないと説明し、より小さなモデル、より低いquant、他のアプリを閉じることを提案しています。上書き用にUNSLOTH_DIFFUSION_ALLOW_OVERSIZED_LOAD=1を挙げています。

クリーンな再起動後のメッセージ：必要約17 GB、使用可能約6 GB、現在の空き11 GB。

2つのメッセージは、どちらの組でも差が5 GBです（7 - 2と11 - 6）。そのため、アプリはOS用に約5 GBを確保しているようです。データ点は2つだけです。

デバイス一覧にはFLUX.2-klein-4B-GGUF（7.8 GB）、FLUX.2-klein-4B（16 GB）、mistral-7b-v0.3-bnb-4bit（4.1 GB）が載っています。テスター：'This should be small enough.'テスターによれば、ハブで最も小さい画像モデルでも24 GBのマシンがクラッシュし、クリックしたモデルはどれも、利用可能なのが'seven gigabytes'だけなので大きすぎると表示されました。

テスターは、なぜ7 GBしか使えないのかと疑問を述べています（'I have much more'）。ダイアログは、その時点で7 GBが空いており、他のアプリが動いていたと説明し、再起動後は11 GBと表示しています。メモは'7 GB'の発言をZ-Imageのダイアログの隣に置いていますが、7 GBという数字が出てくるのはflux.2-kleinのメッセージです。

'I'm lost... I have a 24-gigabyte machine and I cannot find an LLM that can serve me and can do the job.'彼は、24 GBは読者の80パーセント超が持つ容量より大きいと考えています（本人の推定であり、測定値ではありません）。

'More than 80% of my readers'は24 GB以下だといいます。出典は示されていません。

テスターは、ローカルモデルと日常の作業が同じメモリを奪い合い、Chromeなどのアプリが5〜8 GBを使うと結論づけています。彼は一貫して'VRAM'と書いていますが、Apple Siliconのメモリは1つのプールで、ハブも'0 GiB VRAM + 24 GiB shared'と表示しています。

アクティビティモニタ、1回目のキャプチャ：使用メモリ12.92 GB、キャッシュされたファイル10.95 GB、アプリメモリ9.81 GB、確保されているメモリ1.83 GB、スワップ0。

アクティビティモニタ、別のキャプチャ：使用メモリ9.67 GB、キャッシュされたファイル8.14 GB、アプリメモリ6.97 GB、確保されているメモリ1.71 GB、スワップ0。短い履歴グラフは、起動直後であることと整合します。

図15の'currently free' 11 GBは、図16の24.00 - 12.92 = 11.08 GBと整合します。2つが同時に撮影されたかどうかは記録されていません。

'Even after reboot, already nine gigabytes gone for general things.' 'Either I shut the computer down, reboot, stop all the processes... or I cannot run the LLM.'

考えられる答えは2つ：モデルがもっと小さく優れたものになるか、コンピュータが48 GBや64 GBを必要とするか。'All of this talk about this works on your computer is a little bit fake.'

48 GBや64 GBなら'confidently'解決するというのは、未検証です。

モデルの起動時には、スピナーとCancel付きのトースト'Starting model... Loading cached model into memory.'が表示されます。割合もサイズも時間も出ません。

待ち時間は2〜3分より長くかかりました（計時はしていません）。

'The worst way you can treat a client is to do the work and not update the client.'テスターはこれをユーザーインターフェースの問題だとしています。

ヘッダーのメーターには、コンテキストに対する使用トークン数（たとえば'648 / 34.4k'）と、毎秒トークン数（11.0 tok/s）が表示されます。

メモには'no token counter'とあります。スクリーンショットにはコンテキストメーターと毎秒トークン数が写っています。彼が言いたかったのは、メッセージごとのトークン数かもしれません（仮定）。

メモはローカルのチャットモデルを'the most stupid idea'と呼び、'does not research the internet'からだとしています。同じメモとスクリーンショットには、Search機能、ウェブ検索の承認プロンプト、ページを読むツール呼び出しが示されています。

彼はモデルを学習させたくありません。チャット機能はあまり役に立たず、欲しいのは画像と動画のツールで、'is not seeing it yet'とのこと。学習と'Train'タブは試していません。

'Maybe it's on my side, but no, not for me. I'll check again in three or six months, but currently not on a M3 24 GB Pro MacBook.'