日本語対応のローカルLLMモデルはどれがベスト？

日本語モデル比較表

2026年5月時点で、日本語タスクに優れた5つのローカルLLMがあります：Rinna 3.6B、ELYZA-7B、CyberAgent CALM3-22B、Qwen2.5 7B、Phi-4。それぞれ異なるハードウェア環境と用途に対応しています。日本国内では特に、Rinna株式会社とELYZA株式会社のモデルがオープンソースコミュニティで広く使われています。

決断のショートカット：RAMが4 GBしかない場合はRinna 3.6Bを選択。6 GBハードウェアで構造的な指示追従が必要な場合はELYZA-7Bを選択。日本語・中国語・英語の多言語出力が一つのモデルで必要な場合はQwen2.5 7Bを選択。

タスク別推奨モデル

最大サイズではなく、タスクに合ったモデルを選ぶことが重要です。日本語の特性として、漢字・ひらがな・カタカナがそれぞれ個別のトークンスロットを占有するため、英語比で~20–30%トークン/秒が低下します。英語で20 tok/sのモデルは日本語では約14～16有効tok/sになります。レイテンシ計算に注意してください。

日常チャット → Rinna 3.6B（最軽量、日本語ネイティブ、ファインチューン不要）。ビジネス文書・フォーマル文章 → ELYZA-7BまたはCyberAgent CALM3-22B（16 GB RAMが使えるならCALM3がより高品質）。日本語でのコーディング支援 → Qwen2.5-Coder（日本語コメント・ドキュメントに強い多言語コードモデル）。日英中の翻訳 → Qwen2.5 7B（モデル切り替えなしで3言語対応）。

日本語においては量子化の影響が英語より大きいです。Q4_K_Mが推奨最低ライン — 品質劣化は最小限。Q3_K_Mは日本語テキストで~5–10%の品質低下を示します（長文・フォーマル文章で顕著）。日本語用途ではQ2は完全に非推奨。すべてのモデルはOllamaまたはLM Studio経由でQ4_K_Mとして利用可能です。

日本でAndroid上でこれらのモデルを使用するアプリについては、日本向けAndroid LLMアプリガイドを参照してください。日本で7B以上の日本語モデルをローカル実行するためのGPU推奨については、日本向けGPU価格ガイドを参照してください。より広範なモデル選択ガイドとして、コーディング向け最良ローカルLLMとLLM量子化の解説もご覧ください。