重要なポイント
- マルチモーダル対応はOllama v0.1.15(2023年12月12日)で追加され、2026年5月に専用のマルチモーダルエンジンへ作り直された。
- 現在掲載が確認されているビジョン対応モデル:LLaVA(llava-llama3、llava-phi3、bakllavaを含む)、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3、Llama 4、Mistral Small 3.1。
- CLI:
ollama runのプロンプトテキスト中に画像ファイルパスを直接記載する——専用フラグはない。 - HTTP API:
/api/generateと/api/chatはOllama自身のdocs/api.mdに記載の通り、images配列にbase64エンコード画像を受け付ける。 - Ollamaは推論専用:モデルを実行するだけで、ファインチューニングや学習はしない。
- Ollamaが2023年半ばに誕生して以来llama.cppを基盤とする(GitHubリポジトリは2023年6月26日作成、MITライセンス)。現在はApple Siliconの代替バックエンドとしてAppleのMLXにも対応。
📍 一文で説明
Ollamaは2023年12月のバージョン0.1.15以降ビジョン対応(マルチモーダル)モデルのローカル実行に対応しており、現在ライブラリにはLLaVA、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3、Llama 4、Mistral Small 3.1が掲載され、シンプルなCLI(プロンプト中に画像ファイルパスを記載)とHTTP API(JSONのimages配列にbase64エンコード画像)の両方に対応している。
💬 簡潔に説明
Ollamaは、コマンド一つでAIモデルを自分のパソコンにダウンロードして動かせるツールで、その中のいくつかのモデルは画像を見て質問に答えることもできる——本ガイドはそのための実際のコマンドとAPI呼び出しを示す。
📌補足: 上記のモデル一覧は、本レビュー作成時にPromptQuorumがollama.com/libraryで実際に確認した内容を反映している。Ollamaのライブラリは変化するため、依存する前に最新の掲載状況を確認してほしい——確認した正確なライブラリURLは出典セクションを参照。
歴史:Ollama、llama.cpp、マルチモーダル対応
**OllamaのGitHubリポジトリは2023年6月26日に作成され**、MITライセンスの下で公開されている。GGUF形式のモデル用C/C++推論エンジンであるllama.cppを、Docker風のコマンドラインインターフェースとローカルHTTP APIでラップしている——ollama run llama3だけで、依存関係やGPUドライバー、推論エンジン自体をユーザーが直接管理せずにモデルをダウンロードして実行できることが核心的な価値だ。
**マルチモーダル(画像入力)対応は2023年12月12日リリースのOllama v0.1.15で追加され**、最初の対応ビジョンモデルとしてLLaVAが加わった。リリースノートでは、ollama run llavaを実行し、対話プロンプトに画像ファイルパスを直接入力する方法と、/api/generateのHTTPエンドポイントに追加された、最大100MBのbase64エンコードPNGまたはJPEG画像を受け付ける新しいimagesパラメータが説明されている。
Ollamaは2026年5月頃、マルチモーダル対応を専用のマルチモーダルエンジンへと作り直した——Ollama自身のブログによれば、Llama 4、Gemma 3、Qwen2.5-VL、Mistral Small 3.1といった新しいモデルファミリー向けの本格的なビジョン対応を追加し、元のLLaVA統合で使われていたより汎用的な手法ではなく、画像解像度・位置メタデータ・アテンション機構をモデルごとに扱うようにした。同じアップデートで、llama.cppバックエンド経由でApple SiliconのMetal GPUオフロードもマルチモーダルモデルに対応した。
Ollamaは主にllama.cppバックエンド上で動作し、別途Apple Siliconハードウェア向けの代替バックエンドとしてAppleのMLXフレームワークにも対応している。一部の新しいマルチモーダルモデルはMac上での性能向上のためにこれを利用できる。
Ollamaはいつビジョンモデルに対応したのか?
Ollamaは2023年12月12日リリースのバージョン0.1.15でマルチモーダル(画像入力)対応を追加し、最初の対応ビジョンモデルはLLaVAだった。2026年5月頃には、Llama 4、Gemma 3、Qwen2.5-VL、Mistral Small 3.1といった新しいモデルファミリー向けに専用のマルチモーダルエンジンへ作り直した。
Ollamaのライブラリに実際にあるビジョンモデル
PromptQuorumは本レビュー作成時、以下の各モデルをollama.com/library上で実際に確認した——この一覧は、Ollama用にパッケージ化されているかどうか不明なビジョン言語モデル全般の調査ではなく、今日実際にpullできるものを反映している。
llava
- 開発元:
- UW-Madison / Microsoft Research / Columbia(研究)
- 備考:
- 7B/13B/34B;PromptQuorumのLLaVA専門レビューを参照
llava-llama3 / llava-phi3 / bakllava
- 開発元:
- コミュニティ製バリアント
- 備考:
- LLaVAアーキテクチャを異なるベースLLMでファインチューニングしたモデル群
llama3.2-vision
- 開発元:
- Meta
- 備考:
- 11Bと90Bサイズ;汎用的な画像Q&Aに強い
qwen2.5vl
- 開発元:
- Alibaba(Qwenチーム)
- 備考:
- 3B/7B/32B/72B;強力なOCRと文書理解
qwen3-vl
- 開発元:
- Alibaba(Qwenチーム)
- 備考:
- 2B〜235B;qwen2.5vlより新しく、最大256Kコンテキスト、ここでは最も強力なOCR/ビジュアルエージェント向けの選択肢
minicpm-v
- 開発元:
- OpenBMB
- 備考:
- 約8B、約5.5GB;低VRAMで強力な文書OCR、複数画像対応
moondream
- 開発元:
- 個人開発(Vikhyat K.)
- 備考:
- 1.8B、約1.7GB;ここでは最小サイズで、軽量/エッジ用途向け
granite3.2-vision
- 開発元:
- IBM
- 備考:
- 約2.4GB;表・グラフ・インフォグラフィックなど視覚的な文書解析に特化
gemma3
- 開発元:
- 備考:
- 4B/12B/27Bサイズがマルチモーダル(270Mと1Bはテキスト専用)
llama4
- 開発元:
- Meta
- 備考:
- Mixture-of-Experts構成でネイティブにマルチモーダル;大容量(67GB以上)のダウンロード
mistral-small3.1
- 開発元:
- Mistral AI
- 備考:
- 24B、約15GB;Apache-2.0ライセンス、ビジョンとテキストの両対応
Ollamaのライブラリの動きは速い。本記事の他の部分を執筆した後、より新しく高性能なQwenのビジョンモデルとしてqwen3-vl(最大256Kコンテキスト)がqwen2.5vlに加わった。本レビュー時点でOllamaライブラリ上に専用ページがあるとは確認できなかったが、他所でビジョンモデルとして言及されるモデル:qwen2-vl(qwen2.5vlに置き換えられた)、および独立したllava-nextエントリ(LLaVA-NeXT/1.6の改良点はllavaのリスト自体に統合されている)。特定のモデル名に依存する前には必ずollama.com/library/<name>を直接確認してほしい——この表はスナップショットであり、ライブフィードではない。
ビジョンモデルのpullと実行:手順
この手順ではLLaVAを例に使うが、上記の表にあるどのモデルにも同じ手順が当てはまる。
- 1Ollamaをインストールする。
Why it matters: macOS、Linux、Windows用に[Ollama](https://ollama.com)をダウンロードする。インストールは標準的なインストーラー/パッケージで、2分もかからない。 - 2ビジョンモデルをpullする。
Why it matters: `ollama pull llava`(または`ollama pull qwen2.5vl`、`ollama pull minicpm-v`など)を実行する——これによりモデルの重みがダウンロードされる。サイズは2GB未満(Moondream)から数十GB(Llama 4)まで幅がある。 - 3プロンプトに画像を記載して実行する。
Why it matters: `ollama run llava "describe this image: ./photo.jpg"`を実行する。Ollamaはプロンプトのテキスト中の`.jpg`/`.png`ファイルパスを検出し、自動的に画像を添付する——このパターンは2023年12月のv0.1.15以降ずっと機能している。 - 4または直接HTTP APIを呼び出す。
Why it matters: `http://localhost:11434/api/generate`または`/api/chat`に対して、base64エンコードした画像を`images`配列に入れてPOSTする——正確なJSON形式はOllama自身の[docs/api.md](https://github.com/ollama/ollama/blob/main/docs/api.md)に記載されており、下の使用例セクションでも示す。 - 5(任意)公式クライアントライブラリを使う。
Why it matters: 公式の`ollama` PythonおよびJavaScriptライブラリは画像ファイルパスを直接受け付け、base64エンコードを自動で処理してくれるため、スクリプト内で手動エンコードする必要がない。
実際の使用例:CLIとHTTP API
これらの例はOllama自身のドキュメントおよび検証済みのリクエスト/レスポンス形式から直接引用したものであり、創作した構文ではない。
- CLIに専用の画像フラグは存在しない。 Ollamaはプロンプトテキスト自体に含まれる
.jpg/.pngなどのファイルパスを検出し、自動的に添付する。 /api/generateはpromptを使い、/api/chatはmessagesを使う。** どちらもbase64エンコードされた文字列のimages配列を受け付け、/api/chatは個々のメッセージに画像を添付したマルチターン会話に対応する。
# CLI経由でpullして実行——プロンプト内に画像パスを直接記載
ollama pull llava
ollama run llava "describe this image: ./photo.jpg"
# --- HTTP API: /api/generate (Ollamaのdocs/api.mdに記載) ---
curl http://localhost:11434/api/generate -d '{
"model": "llava",
"prompt": "What is in this picture?",
"stream": false,
"images": ["<base64-encoded image data>"]
}'
# --- HTTP API: /api/chat (マルチターン、こちらもdocs/api.mdに記載) ---
curl http://localhost:11434/api/chat -d '{
"model": "llava",
"messages": [
{ "role": "user", "content": "What is in this image?", "images": ["<base64-encoded image data>"] }
]
}'
# --- Python: 公式ollamaライブラリ(base64エンコードを自動処理) ---
import ollama
response = ollama.chat(
model="llava",
messages=[{
"role": "user",
"content": "What is in this image?",
"images": ["photo.jpg"],
}],
)
print(response["message"]["content"])
# --- Python: 手動base64エンコードによる生のHTTP API呼び出し ---
import base64
import requests
def ask_vision_model(image_path: str, prompt: str, model: str = "llava") -> str:
with open(image_path, "rb") as f:
image_b64 = base64.b64encode(f.read()).decode("utf-8")
response = requests.post(
"http://localhost:11434/api/generate",
json={"model": model, "prompt": prompt, "images": [image_b64], "stream": False},
)
return response.json()["response"]VRAMとハードウェアの目安
Ollama自身のモデルライブラリページには各モデルのダウンロードサイズが記載されており、量子化モデルの実行に必要なVRAMやRAMの目安として妥当な指標になる——PromptQuorumは、このモデルごとのダウンロードサイズ以外にOllamaが独自に公開している権威あるVRAM表は見つけられなかった。
モデル | 概算サイズ | 実用的な最小要件 |
|---|---|---|
| Moondream | 約1.7GB | 4GB VRAM/控えめなハードウェアでも動作 |
| Granite 3.2 Vision | 約2.4GB | 4〜6GB VRAM |
| LLaVA 7B / MiniCPM-V | 約4.7〜5.5GB | 6〜8GB VRAM |
| Llama 3.2 Vision 11B / Qwen2.5-VL 7B | 約6〜8GB | 8〜10GB VRAM |
| Mistral Small 3.1 | 約15GB | 16〜24GB VRAM |
| LLaVA 34B / Qwen2.5-VL 32B | 約20〜21GB | 24GB以上のVRAM |
| Llama 3.2 Vision 90B / Llama 4 | 約55〜67GB以上 | マルチGPUまたは大容量メモリのApple Silicon |
📌補足: これらは概算のダウンロードサイズであり、実測のVRAMベンチマークではない——PromptQuorumは本記事のために独自のハードウェアテストを行っていない。VRAMに収まらない場合でも、モデルはCPUのみでずっと低速に動作できる。実際に使えるVRAMの余裕は、コンテキスト長やバッチサイズにも左右される。
Ollamaが向いていない用途
Ollamaはビジョン対応モデルをローカルで動かすための、活発に開発が続く優れた手段だが、以下の状況には向いていない。
- モデルのファインチューニングや学習。 Ollamaは推論専用であり——学習済みの重みを実行するだけで、学習やファインチューニングのパイプラインは提供しない。自前のデータでビジョン言語モデルをファインチューニングしたい場合は、別のツールチェーン(元のLLaVAリポジトリ自体の学習スクリプトや、Hugging Face Transformersのようなフレームワークなど)が必要になる。
- 最先端のプロプライエタリなマルチモーダル性能。 Ollamaのライブラリはオープンウェイトモデルを中心に構築されている。本レビュー時点では、GPT-4o、Claude、Geminiのクラウドビジョンaiは、複雑なシーン理解、手書き文字認識、曖昧な画像において一般にオープンなローカルモデルをリードしている——Ollamaは1画像あたりの限界費用ゼロでプライベートに自己ホストする用途に向いており、絶対的な最先端に張り合うためのものではない。
- グラフや図表からの正確な数値抽出。 これはOllamaというランナー固有の制約ではなく、基盤となるビジョン言語モデル自体の限界である——どのモデルやランナーを使う場合でも、抽出した数値は元データと必ず照合してほしい。
- 「どのモデルが最良か」への単一の答え。 Ollamaでどのビジョンモデルが適しているかはタスク次第だ:OCR中心の文書処理にはQwen2.5-VL、低VRAMでのOCRにはMiniCPM-V、汎用的な画像Q&AにはLlama 3.2 Vision、最軽量にはMoondream。タスク別の詳しい指針はPromptQuorumのローカルビジョンモデル比較を参照。
Ollamaの代替となるビジョンモデルツール
LM Studio
- 最適な用途:
- GUI中心のローカルモデルランナー;チャットインターフェースでの画像添付によるビジョン対応モデルのサポートを確認済み
- ライセンス:
- 無料、プロプライエタリなアプリケーション
llama.cppを直接使用
- 最適な用途:
- Ollamaのラッパー層なしで、マルチモーダル(llava.cpp形式)対応を含む推論への最大限の低レベル制御
- ライセンス:
- MIT
LLaVA自身のリポジトリ
- 最適な用途:
- 研究レベルの制御、学習/ファインチューニングスクリプト——PromptQuorumのLLaVAレビューを参照
- ライセンス:
- Apache-2.0(コード);チェックポイントはベースモデル依存
MLC-LLM / MLC Chat
- 最適な用途:
- プラットフォーム横断のオンデバイスLLM展開;本レビュー時点でビジョン言語モデル(VLM)対応が公式に文書化されていることは確認できなかった——ビジョンタスクで頼る前に最新状況を確認してほしい
- ライセンス:
- Apache-2.0
クラウドVLM API(GPT-4o、Claude、Geminiビジョン)
- 最適な用途:
- 入手可能な中で最高のマルチモーダル性能、ローカルのハードウェアやセットアップが不要
- ライセンス:
- プロプライエタリ(有料API)
よくある質問
Ollamaはビジョンモデルに対応しているか?
はい。Ollamaは2023年12月12日リリースのバージョン0.1.15でマルチモーダル(画像入力)対応を追加し、2026年5月頃に専用のマルチモーダルエンジンへ作り直した。本レビュー時点で、ライブラリにはLLaVA、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3、Llama 4、Mistral Small 3.1がビジョン対応モデルとして掲載されている。
Ollamaでモデルに画像を渡すにはどうすればよいか?
CLIからは、プロンプトのテキスト中に画像のファイルパスを直接記載する:ollama run llava "describe this image: ./photo.jpg"。専用の--imageフラグはない。プログラムからは、Ollama自身のdocs/api.mdに従い、/api/generateまたは/api/chatにbase64エンコードした画像をimages配列に入れてPOSTする。
Ollamaのapiに画像を送る際の正確なJSON形式は?
/api/generateの場合:`{"model": "llava", "prompt": "...", "images": ["<base64 string>"]}。/api/chatの場合:{"model": "llava", "messages": [{"role": "user", "content": "...", "images": ["<base64 string>"]}]}。どちらもOllamaのGitHubリポジトリのdocs/api.md`に記載されている。
現在Ollamaのライブラリで利用できるビジョンモデルは?
本レビューで確認したもの:LLaVA(llava-llama3、llava-phi3、bakllavaの各バリアントを含む)、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3(4B以上)、Llama 4、Mistral Small 3.1。この一覧は変わり得るため、ollama.com/libraryを直接確認してほしい。
Ollamaはビジョンモデルをファインチューニングできるか?
いいえ。Ollamaは推論専用であり——学習済みの重みを実行するだけで、学習やファインチューニングのパイプラインは提供しない。ファインチューニングには、元のモデル自体の学習スクリプトやHugging Face Transformersのようなフレームワークなど、別のツールチェーンが必要になる。
Ollamaはllama.cppを基盤にしているのか?
はい。OllamaはGGUF形式のモデル用C/C++推論エンジンであるllama.cppを、よりシンプルなコマンドラインインターフェースとHTTP APIでラップしている。OllamaのGitHubリポジトリは2023年6月26日に作成された。Apple Siliconの代替バックエンドとしてAppleのMLXフレームワークにも対応している。
OllamaはGPT-4oやGeminiのようなクラウドビジョンAPIとどう比較されるか?
Ollamaはリクエストごとの限界費用ゼロでローカルにモデルを実行し、画像をデバイス上に留めておけるが、そのライブラリはオープンウェイトモデルを中心に構築されており、複雑なシーン理解、手書き文字、曖昧な画像においては一般にプロプライエタリなクラウドビジョンAPIに劣る。プライバシー、大量利用時のコスト管理、オフライン利用にはOllamaを、入手可能な最高性能を求めるならクラウドAPIを選ぶとよい。
結論
Ollamaは2023年12月以降、ビジョン対応モデルをローカルで動かすための本当にシンプルな手段を提供し続けており、2026年5月のマルチモーダルエンジン刷新によって、LLaVAのような従来からの選択肢と並んで、Llama 4、Gemma 3、Qwen2.5-VL、Mistral Small 3.1といった新しいモデルファミリー向けにもその体験を最新に保っている。中核となるワークフロー——ollama pullの後、プロンプトに画像パスを入れてollama runするか、ドキュメント化された/api/generate//api/chatのHTTPエンドポイントを使う——は最初のv0.1.15リリース以来安定しており、これはこの上に何かを構築する人にとってOllamaの強みの一つだ。学習ツールではなく、最新のプロプライエタリなクラウドのマルチモーダル性能には及ばないが、プライベートに自己ホストし、画像処理の限界費用をゼロに抑えたい用途には、依然として最も実用的な入り口の一つであり続けている。特定のモデルを深く知りたい場合はPromptQuorumのLLaVAレビューを、ローカルビジョンモデル全体からタスク別に選びたい場合はローカルビジョンモデル比較を併せて参照してほしい。
出典
- Ollama on GitHub — リポジトリの作成日、ライセンス、リリース履歴。
- Ollama v0.1.15リリースノート — 2023年12月12日、マルチモーダル/LLaVA対応の最初の発表。
- Ollamaのマルチモーダルモデル向け新エンジン — 2026年5月のマルチモーダルエンジン刷新。Llama 4、Gemma 3、Qwen2.5-VL、Mistral Small 3.1を対象。
- Ollama APIドキュメント — 画像に関する
/api/generateと/api/chatのドキュメント化されたリクエスト/レスポンス形式。 - Ollamaモデルライブラリ — 本記事に掲載した全モデルの確認に使用したライブラリ本体。個別ページとしてllava、llama3.2-vision、qwen2.5vl、minicpm-v、moondream、granite3.2-vision、gemma3、llama4、mistral-small3.1を含む。
