メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。
ホーム/ローカルLLM活用
Overview & Reference

llmfitレビュー:お使いのハードウェアで動くローカルLLMを見つける

·7分で読める 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

llmfitは、GitHubユーザーAlexsJonesが管理する無料のオープンソース(MIT)ターミナルツールで、CPU・RAM・GPU・VRAMを検出し、数百のオープンLLMをお使いのマシンへの適合度でランク付けします。 各モデルを適合度、推定速度、品質、コンテキスト長で採点し、ダウンロードをOllama、llama.cpp、MLX、LM Studio、Docker Model Runnerに引き渡せます。実際のトークン毎秒のベンチマークも可能です。llmfit自身はモデルを実行しません。現在のリリースはv1.1.20(2026-11-03公開)で、リポジトリの最新コミットは2026-11-18です。

重要なポイント

  • ターミナルUI、従来のCLI出力、Webダッシュボード、REST APIを備えたコマンドラインツール。デスクトップ用インストーラーはない
  • モデルを適合度、推定速度、品質、コンテキストで採点し、収まる中で最良の量子化を選ぶ
  • ダウンロードとベンチマークを、すでに使っているランタイムに引き継ぐ
  • 速度の数値はベンチマークするまで推定値で、保存された測定値が表内の推定値を置き換える
  • MITライセンスで無料。1つのコマンドでインストール可能(winget、Scoop、Homebrew、uv、Docker)

📍 一文で説明

llmfitは、CPU・RAM・GPUを読み取り、数百のオープンLLMをメモリ適合度、推定速度、品質、コンテキスト長でランク付けする無料のオープンソース(MIT)ターミナルツールで、モデル自体は実行しません。

💬 簡潔に説明

読み込めないモデルのダウンロードに1時間を費やす前に、llmfitを一度実行します。マシンの構成を調べ、モデルを「快適に動く」から「ぎりぎり」まで並べ、必要に応じて、すでに使っているランタイムで実際の速度を測定できます。

llmfitは、GitHubユーザーAlexsJonesが管理する無料のオープンソース(MIT)ターミナルツールで、CPU・RAM・GPU・VRAMを検出し、数百のオープンLLMをお使いのマシンへの適合度でランク付けします。 各モデルを適合度、推定速度、品質、コンテキスト長で採点し、ダウンロードをOllama、llama.cpp、MLX、LM Studio、Docker Model Runnerに引き渡せます。実際のトークン毎秒のベンチマークも可能です。llmfit自身はモデルを実行しません。現在のリリースはv1.1.20(2026-11-03公開)で、リポジトリの最新コミットは2026-11-18です。

llmfitレビュー:お使いのハードウェアで動くローカルLLMを見つける

llmfitとは?

llmfitのREADMEは、このツールを「CPU、システムRAM、GPU、VRAM、アクセラレータ構成を調べ、主要な量子化にわたってモデルを推奨する」ものと説明しています(英語原文からの意訳)。

  • GitHubユーザーAlexsJonesが管理。リポジトリは2026年2月に作成され、企業も専用Webサイトもない
  • 成熟度:今回の確認時点でGitHubスターは約39,000+。最新リリースはv1.1.20(2026-11-03)。最新コミットは2026-11-18で、大半は週次のベンチマークデータ更新とコミュニティから提出されたベンチマーク、加えて2026-11-17の修正
  • できないこと:llmfitは推論エンジンではない。モデルを読み込むことはなく、推奨したうえでOllamaなどのランタイムに引き継ぐ
  • Rayセットアップ向けのクラスターモードはREADMEで「Preview」とされ、これまで「模擬のRayダッシュボードでのみテスト」されている
  • PromptQuorumはllmfitを実行していない。このレビューはREADME、docsフォルダ、GitHub API、リリースページに基づく

llmfitの仕組み:検出・採点・ベンチマーク

READMEとdocs/how-it-works.mdによると、llmfitはいくつかの段階で動作します。

  • ハードウェア検出 — CPUコア数とシステムRAMを読み取り、続いてGPUを調べる。NVIDIAはnvidia-smi、AMDはrocm-smi、Intel Arcはsysfs/lspci、Apple Siliconはsystem_profiler(ユニファイドメモリをVRAMとして扱う)、Ascendはnpu-smiを使用
  • モデルデータベース — Hugging Face APIから取得した数百のモデルがコンパイル時にバイナリへ埋め込まれるため、カタログの更新はllmfit自体のアップグレードで届く
  • 動的な量子化 — 固定の形式を前提とせず、Q8_0からQ2_Kまで順に調べ、メモリに収まる最高品質を選ぶ。何も収まらなければコンテキストを半分にして再試行する
  • 採点と速度 — 各モデルに品質・速度・適合度・コンテキストの0〜100のスコアを付け、用途に応じた重みで合成する。速度はメモリ帯域モデルから算出され、各数値には「estimated」から「measured_local」までの信頼度ラベルが付く
  • インターフェース — 既定は対話型ターミナルUI。fit、recommend、info、bench、doctor、storage、serveなどのコマンドもあり、serveはWebダッシュボードとREST API(/api/v1/system、/api/v1/models)を起動する
  • プロバイダーとベンチマーク — インストール済みモデルを検出し、Ollama、llama.cpp、MLX、Docker Model Runner、LM Studio経由でダウンロードを開始できる。benchで実際のトークン毎秒と最初のトークンまでの時間を測定し、任意で結果をプロジェクトに共有できる

llmfitを入手する

llmfitはターミナルからインストールします。.dmgや.exeのインストーラーはありません。 Windows、macOS、Linuxのいずれも1つのコマンドで済みます。

プラットフォーム
コマンドまたはリンク
Windows(winget)winget install --exact --id AlexsJones.llmfit
Windows(Scoop)scoop install llmfit
macOS / Linux(Homebrew)brew install AlexsJones/llmfit/llmfit
macOS / Linux(スクリプト)llmfit.axjns.dev
Python(uv)uv tool install -U llmfit
Dockerdocker run -it --rm ghcr.io/alexsjones/llmfit --tui
ビルド済みバイナリReleases
ソースコード(MIT)GitHub

現在のバージョン:v1.1.20。2026-11-03にリリースページで公開され、リポジトリへの最終プッシュは2026-11-18(2026-11-19確認)です。リリースページには.tar.gzと.zipのアーカイブしかないため、ターミナルが必要です。専用の製品Webサイトはなく、GitHubリポジトリがメインページで、llmfit.axjns.devはインストールスクリプトを置いているだけです。READMEによると、Windowsのリリースバイナリはv1.1.19以降SignPathで署名されています。curlをシェルに渡す一般的なコマンドと同様、先にスクリプトを読むか、パッケージマネージャーを使ってください。

プライバシーとデータの扱い

README(2026-11-19確認)によると、llmfitは「ユーザー、またはインストール・運用する人が特に要求しない限り、他のネットワーク接続システムへ情報を送信しません」(英語原文からの意訳)。

  • READMEによると、llmfitが外部サービスに接続するのは、ユーザーが呼び出す機能に限られる:モデルのダウンロード、ランタイムプロバイダーへの問い合わせ、コミュニティのリーダーボード
  • ベンチマークの実行結果はまずローカルに保存される。共有は別個の任意の手順で、READMEによると結果はプルリクエストとしてプロジェクトに送られる
  • llmfit serveはHTTP APIとWebダッシュボードを起動する。READMEの例では0.0.0.0にバインドしており、ネットワーク上の他のマシンから到達できるため、ホストは慎重に選ぶこと
  • このレビューでは、企業、プライバシーポリシーのページ、準拠法の条項、運営者情報は見つからなかった。上記のREADMEの記述が唯一のプライバシーに関する記載

llmfitのライセンスと価格

llmfitは無料のオープンソースです(GitHubリポジトリによる、2026-11-19確認)。

項目
詳細
ライセンスMIT
価格無料。有料プランは見つからず
アカウント / APIキー記載なし

READMEとドキュメントには、有料プラン、アカウント、APIキーの記載はありません。READMEによると、各リリースに同梱されるコミュニティのベンチマークデータは、提出されたプルリクエストに由来します。

llmfitはどんな人に向いているか?

llmfitが最も合うのは、「これを実行して」ではなく「自分のマシンで何が動くか」を知りたい場合です。

llmfitを使うとよい場合

  • ダウンロードの前に、自分のCPU・RAM・GPUに合うオープンLLMと量子化のランク付けされた候補リストがほしい
  • すでにローカルのランタイムを使っていて、何が収まるかのセカンドオピニオンがほしい
  • モデルの推奨をスクリプトやデプロイパイプラインに取り込むため、JSON出力やHTTP APIがほしい
  • マルチGPUや複数マシン構成を計画していて、起動前に分割を確認したい(クラスターモードはプレビュー)

待つか、他を探したほうがよい場合

  • モデルを実際に実行して会話できるツールがほしい:llmfitは推奨のみで、ランタイムに引き継ぐ
  • ベンチマークなしで正確な速度の数値が必要:benchを実行するまで数値は推定値
  • AMDまたはIntelのGPUを搭載したWindowsを使っている:プラットフォームのドキュメントでは、そこでのGPU検出はnvidia-smi経由のみと説明されているため、手動のメモリ指定を使う
  • パッケージ化されたデスクトップアプリがほしい:READMEに記載があるのはターミナルUI、CLI、Webダッシュボードで、リリースページにはアーカイブしかない

llmfitと代替ツールの比較

llmfitは、対応するランタイムを置き換えるのではなく、その隣に位置します。全カタログはLocal AI Directoryを参照してください。

  • Ollama — コマンドラインでモデルを実行・提供する。llmfitは収まるモデルを一覧し、Ollama経由でダウンロードを開始できる。Ollamaレビューを参照。
  • LM Studio — チャットUIでモデルをダウンロード・実行するデスクトップアプリ。llmfitはプロバイダーとして対応するが、独自のチャット機能はない。LM Studioレビューを参照。
  • Docker Model Runner — Docker Desktop内蔵のモデル提供機能。llmfitは対応ランタイムプロバイダーとして挙げている。Docker Model Runnerレビューを参照。
  • llm-checker — llmfitのREADMEが代替として挙げているツール。Ollama連携のNode.js製CLIで、llmfitが仕様から推定するのに対し、モデルを実際に実行してベンチマークする。READMEによると、llm-checkerはすべてのモデルをMixture-of-Expertsではなく密なモデルとして扱う。

ディレクトリで比較する

よくある質問

llmfitはモデルを自分で実行・ダウンロードしますか?

いいえ。モデルを推奨し、対応するプロバイダー経由でダウンロードを開始できます。モデルを実行するのはプロバイダーです。

llmfitの速度の数値はどの程度正確ですか?

特に表示がない限り、メモリ帯域の計算式による推定値です。benchは実際のトークン毎秒を測定し、ドキュメントによると測定値が表内の推定値を置き換えます。

llmfitはどのGPUを検出しますか?

プラットフォームのドキュメントによると、LinuxではNVIDIA、AMD、Intel Arc、Apple Silicon、Ascend、macOSではApple Silicon、WindowsではNVIDIA(nvidia-smi経由)です。検出に失敗した場合は手動での指定もできます。

llmfitはハードウェア情報をどこかに送信しますか?

READMEによると、ダウンロード、プロバイダーへの問い合わせ、コミュニティのリーダーボードなど、外部サービスを必要とする機能を使うときにのみ接続します。

llmfitにグラフィカルなアプリはありますか?

パッケージ化されたダウンロードとしてはありません。READMEに記載があるのはターミナルUI、CLI、Webダッシュボードです。READMEには第三者製の別のWindows用GUI「llmfit-gui」も挙げられていますが、このレビューでは確認していません。

出典

← ローカルLLM活用 に戻る

MCP