Skip to main content
PromptQuorum
ホーム/ローカルLLM活用/Ollamaのビジョンモデル(2026):画像モデルをローカルで実際に動かす方法
Voice, Speech & Multimodal

Ollamaのビジョンモデル(2026):画像モデルをローカルで実際に動かす方法

·12分で読めます·Hans Kuepper 著 · PromptQuorumの創設者、マルチモデルAIディスパッチツール · PromptQuorum

Ollamaはビジョン対応(マルチモーダル)モデルをローカルで動かせる。2023年12月のバージョン0.1.15以降、それは可能だ。 本レビュー時点で、Ollama自身のモデルライブラリにはLLaVA(およびllava-llama3/llava-phi3/bakllavaの各バリアント)、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3、Llama 4、Mistral Small 3.1がビジョン対応モデルとして掲載されている。ollama pull llavaでダウンロードし、ollama run llava "describe this image: ./photo.jpg"で実行するか、/api/generateまたは/api/chatにbase64エンコードした画像をimages配列で渡してプログラムから呼び出せる。本ガイドでは実際のコマンド、ドキュメント化されたAPI形式、そしてOllamaが向いている場面と向いていない場面を正直に扱う——LLaVA単体の詳細レビューはPromptQuorumのLLaVAレビューを参照。

llama.cpp上に構築されたローカルモデルランナーOllamaは、2023年12月のバージョン0.1.15でマルチモーダル(画像入力)対応を追加し、2026年5月には専用のマルチモーダルエンジンへと作り直された。本ガイドは、Ollamaで実際にビジョン対応モデルを動かすための実践的なリファレンスである。現在ライブラリに掲載されているモデル、画像を渡す実際のCLIおよびHTTP APIの構文、そしてOllamaが不向きな用途についても正直に解説する。特定のモデルを深く知りたい場合はPromptQuorumのLLaVAレビューを、ランナーを問わずローカルビジョンモデル全体を比較したい場合はローカルビジョンモデルガイドを参照してほしい。

Ollamaのビジョンモデル(2026):画像モデルをローカルで実際に動かす方法

重要なポイント

  • マルチモーダル対応はOllama v0.1.15(2023年12月12日)で追加され、2026年5月に専用のマルチモーダルエンジンへ作り直された。
  • 現在掲載が確認されているビジョン対応モデル:LLaVA(llava-llama3、llava-phi3、bakllavaを含む)、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3、Llama 4、Mistral Small 3.1。
  • CLI:ollama runのプロンプトテキスト中に画像ファイルパスを直接記載する——専用フラグはない。
  • HTTP API:/api/generate/api/chatはOllama自身のdocs/api.mdに記載の通り、images配列にbase64エンコード画像を受け付ける。
  • Ollamaは推論専用:モデルを実行するだけで、ファインチューニングや学習はしない。
  • Ollamaが2023年半ばに誕生して以来llama.cppを基盤とする(GitHubリポジトリは2023年6月26日作成、MITライセンス)。現在はApple Siliconの代替バックエンドとしてAppleのMLXにも対応。

📍 一文で説明

Ollamaは2023年12月のバージョン0.1.15以降ビジョン対応(マルチモーダル)モデルのローカル実行に対応しており、現在ライブラリにはLLaVA、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3、Llama 4、Mistral Small 3.1が掲載され、シンプルなCLI(プロンプト中に画像ファイルパスを記載)とHTTP API(JSONのimages配列にbase64エンコード画像)の両方に対応している。

💬 簡潔に説明

Ollamaは、コマンド一つでAIモデルを自分のパソコンにダウンロードして動かせるツールで、その中のいくつかのモデルは画像を見て質問に答えることもできる——本ガイドはそのための実際のコマンドとAPI呼び出しを示す。

📌補足: 上記のモデル一覧は、本レビュー作成時にPromptQuorumがollama.com/libraryで実際に確認した内容を反映している。Ollamaのライブラリは変化するため、依存する前に最新の掲載状況を確認してほしい——確認した正確なライブラリURLは出典セクションを参照。

歴史:Ollama、llama.cpp、マルチモーダル対応

**OllamaのGitHubリポジトリは2023年6月26日に作成され**、MITライセンスの下で公開されている。GGUF形式のモデル用C/C++推論エンジンであるllama.cppを、Docker風のコマンドラインインターフェースとローカルHTTP APIでラップしている——ollama run llama3だけで、依存関係やGPUドライバー、推論エンジン自体をユーザーが直接管理せずにモデルをダウンロードして実行できることが核心的な価値だ。

**マルチモーダル(画像入力)対応は2023年12月12日リリースのOllama v0.1.15で追加され**、最初の対応ビジョンモデルとしてLLaVAが加わった。リリースノートでは、ollama run llavaを実行し、対話プロンプトに画像ファイルパスを直接入力する方法と、/api/generateのHTTPエンドポイントに追加された、最大100MBのbase64エンコードPNGまたはJPEG画像を受け付ける新しいimagesパラメータが説明されている。

Ollamaは2026年5月頃、マルチモーダル対応を専用のマルチモーダルエンジンへと作り直した——Ollama自身のブログによれば、Llama 4、Gemma 3、Qwen2.5-VL、Mistral Small 3.1といった新しいモデルファミリー向けの本格的なビジョン対応を追加し、元のLLaVA統合で使われていたより汎用的な手法ではなく、画像解像度・位置メタデータ・アテンション機構をモデルごとに扱うようにした。同じアップデートで、llama.cppバックエンド経由でApple SiliconのMetal GPUオフロードもマルチモーダルモデルに対応した。

Ollamaは主にllama.cppバックエンド上で動作し、別途Apple Siliconハードウェア向けの代替バックエンドとしてAppleのMLXフレームワークにも対応している。一部の新しいマルチモーダルモデルはMac上での性能向上のためにこれを利用できる。

Ollamaはいつビジョンモデルに対応したのか?

Ollamaは2023年12月12日リリースのバージョン0.1.15でマルチモーダル(画像入力)対応を追加し、最初の対応ビジョンモデルはLLaVAだった。2026年5月頃には、Llama 4、Gemma 3、Qwen2.5-VL、Mistral Small 3.1といった新しいモデルファミリー向けに専用のマルチモーダルエンジンへ作り直した。

Ollamaのライブラリに実際にあるビジョンモデル

PromptQuorumは本レビュー作成時、以下の各モデルをollama.com/library上で実際に確認した——この一覧は、Ollama用にパッケージ化されているかどうか不明なビジョン言語モデル全般の調査ではなく、今日実際にpullできるものを反映している。

llava

開発元:
UW-Madison / Microsoft Research / Columbia(研究)
備考:
7B/13B/34B;PromptQuorumのLLaVA専門レビューを参照

llava-llama3 / llava-phi3 / bakllava

開発元:
コミュニティ製バリアント
備考:
LLaVAアーキテクチャを異なるベースLLMでファインチューニングしたモデル群

llama3.2-vision

開発元:
Meta
備考:
11Bと90Bサイズ;汎用的な画像Q&Aに強い

qwen2.5vl

開発元:
Alibaba(Qwenチーム)
備考:
3B/7B/32B/72B;強力なOCRと文書理解

qwen3-vl

開発元:
Alibaba(Qwenチーム)
備考:
2B〜235B;qwen2.5vlより新しく、最大256Kコンテキスト、ここでは最も強力なOCR/ビジュアルエージェント向けの選択肢

minicpm-v

開発元:
OpenBMB
備考:
約8B、約5.5GB;低VRAMで強力な文書OCR、複数画像対応

moondream

開発元:
個人開発(Vikhyat K.)
備考:
1.8B、約1.7GB;ここでは最小サイズで、軽量/エッジ用途向け

granite3.2-vision

開発元:
IBM
備考:
約2.4GB;表・グラフ・インフォグラフィックなど視覚的な文書解析に特化

gemma3

開発元:
Google
備考:
4B/12B/27Bサイズがマルチモーダル(270Mと1Bはテキスト専用)

llama4

開発元:
Meta
備考:
Mixture-of-Experts構成でネイティブにマルチモーダル;大容量(67GB以上)のダウンロード

mistral-small3.1

開発元:
Mistral AI
備考:
24B、約15GB;Apache-2.0ライセンス、ビジョンとテキストの両対応

Ollamaのライブラリの動きは速い。本記事の他の部分を執筆した後、より新しく高性能なQwenのビジョンモデルとしてqwen3-vl(最大256Kコンテキスト)がqwen2.5vlに加わった。本レビュー時点でOllamaライブラリ上に専用ページがあるとは確認できなかったが、他所でビジョンモデルとして言及されるモデル:qwen2-vl(qwen2.5vlに置き換えられた)、および独立したllava-nextエントリ(LLaVA-NeXT/1.6の改良点はllavaのリスト自体に統合されている)。特定のモデル名に依存する前には必ずollama.com/library/<name>を直接確認してほしい——この表はスナップショットであり、ライブフィードではない。

ビジョンモデルのpullと実行:手順

この手順ではLLaVAを例に使うが、上記の表にあるどのモデルにも同じ手順が当てはまる。

  1. 1
    Ollamaをインストールする。
    Why it matters: macOS、Linux、Windows用に[Ollama](https://ollama.com)をダウンロードする。インストールは標準的なインストーラー/パッケージで、2分もかからない。
  2. 2
    ビジョンモデルをpullする。
    Why it matters: `ollama pull llava`(または`ollama pull qwen2.5vl`、`ollama pull minicpm-v`など)を実行する——これによりモデルの重みがダウンロードされる。サイズは2GB未満(Moondream)から数十GB(Llama 4)まで幅がある。
  3. 3
    プロンプトに画像を記載して実行する。
    Why it matters: `ollama run llava "describe this image: ./photo.jpg"`を実行する。Ollamaはプロンプトのテキスト中の`.jpg`/`.png`ファイルパスを検出し、自動的に画像を添付する——このパターンは2023年12月のv0.1.15以降ずっと機能している。
  4. 4
    または直接HTTP APIを呼び出す。
    Why it matters: `http://localhost:11434/api/generate`または`/api/chat`に対して、base64エンコードした画像を`images`配列に入れてPOSTする——正確なJSON形式はOllama自身の[docs/api.md](https://github.com/ollama/ollama/blob/main/docs/api.md)に記載されており、下の使用例セクションでも示す。
  5. 5
    (任意)公式クライアントライブラリを使う。
    Why it matters: 公式の`ollama` PythonおよびJavaScriptライブラリは画像ファイルパスを直接受け付け、base64エンコードを自動で処理してくれるため、スクリプト内で手動エンコードする必要がない。

実際の使用例:CLIとHTTP API

これらの例はOllama自身のドキュメントおよび検証済みのリクエスト/レスポンス形式から直接引用したものであり、創作した構文ではない。

  • CLIに専用の画像フラグは存在しない。 Ollamaはプロンプトテキスト自体に含まれる.jpg/.pngなどのファイルパスを検出し、自動的に添付する。
  • /api/generatepromptを使い、/api/chatmessagesを使う。** どちらもbase64エンコードされた文字列のimages配列を受け付け、/api/chatは個々のメッセージに画像を添付したマルチターン会話に対応する。
bash
# CLI経由でpullして実行——プロンプト内に画像パスを直接記載
ollama pull llava
ollama run llava "describe this image: ./photo.jpg"

# --- HTTP API: /api/generate (Ollamaのdocs/api.mdに記載) ---
curl http://localhost:11434/api/generate -d '{
  "model": "llava",
  "prompt": "What is in this picture?",
  "stream": false,
  "images": ["<base64-encoded image data>"]
}'

# --- HTTP API: /api/chat (マルチターン、こちらもdocs/api.mdに記載) ---
curl http://localhost:11434/api/chat -d '{
  "model": "llava",
  "messages": [
    { "role": "user", "content": "What is in this image?", "images": ["<base64-encoded image data>"] }
  ]
}'

# --- Python: 公式ollamaライブラリ(base64エンコードを自動処理) ---
import ollama

response = ollama.chat(
    model="llava",
    messages=[{
        "role": "user",
        "content": "What is in this image?",
        "images": ["photo.jpg"],
    }],
)
print(response["message"]["content"])

# --- Python: 手動base64エンコードによる生のHTTP API呼び出し ---
import base64
import requests

def ask_vision_model(image_path: str, prompt: str, model: str = "llava") -> str:
    with open(image_path, "rb") as f:
        image_b64 = base64.b64encode(f.read()).decode("utf-8")
    response = requests.post(
        "http://localhost:11434/api/generate",
        json={"model": model, "prompt": prompt, "images": [image_b64], "stream": False},
    )
    return response.json()["response"]

VRAMとハードウェアの目安

Ollama自身のモデルライブラリページには各モデルのダウンロードサイズが記載されており、量子化モデルの実行に必要なVRAMやRAMの目安として妥当な指標になる——PromptQuorumは、このモデルごとのダウンロードサイズ以外にOllamaが独自に公開している権威あるVRAM表は見つけられなかった。

モデル
概算サイズ
実用的な最小要件
Moondream約1.7GB4GB VRAM/控えめなハードウェアでも動作
Granite 3.2 Vision約2.4GB4〜6GB VRAM
LLaVA 7B / MiniCPM-V約4.7〜5.5GB6〜8GB VRAM
Llama 3.2 Vision 11B / Qwen2.5-VL 7B約6〜8GB8〜10GB VRAM
Mistral Small 3.1約15GB16〜24GB VRAM
LLaVA 34B / Qwen2.5-VL 32B約20〜21GB24GB以上のVRAM
Llama 3.2 Vision 90B / Llama 4約55〜67GB以上マルチGPUまたは大容量メモリのApple Silicon

📌補足: これらは概算のダウンロードサイズであり、実測のVRAMベンチマークではない——PromptQuorumは本記事のために独自のハードウェアテストを行っていない。VRAMに収まらない場合でも、モデルはCPUのみでずっと低速に動作できる。実際に使えるVRAMの余裕は、コンテキスト長やバッチサイズにも左右される。

Ollamaが向いていない用途

Ollamaはビジョン対応モデルをローカルで動かすための、活発に開発が続く優れた手段だが、以下の状況には向いていない。

  • モデルのファインチューニングや学習。 Ollamaは推論専用であり——学習済みの重みを実行するだけで、学習やファインチューニングのパイプラインは提供しない。自前のデータでビジョン言語モデルをファインチューニングしたい場合は、別のツールチェーン(元のLLaVAリポジトリ自体の学習スクリプトや、Hugging Face Transformersのようなフレームワークなど)が必要になる。
  • 最先端のプロプライエタリなマルチモーダル性能。 Ollamaのライブラリはオープンウェイトモデルを中心に構築されている。本レビュー時点では、GPT-4o、Claude、Geminiのクラウドビジョンaiは、複雑なシーン理解、手書き文字認識、曖昧な画像において一般にオープンなローカルモデルをリードしている——Ollamaは1画像あたりの限界費用ゼロでプライベートに自己ホストする用途に向いており、絶対的な最先端に張り合うためのものではない。
  • グラフや図表からの正確な数値抽出。 これはOllamaというランナー固有の制約ではなく、基盤となるビジョン言語モデル自体の限界である——どのモデルやランナーを使う場合でも、抽出した数値は元データと必ず照合してほしい。
  • 「どのモデルが最良か」への単一の答え。 Ollamaでどのビジョンモデルが適しているかはタスク次第だ:OCR中心の文書処理にはQwen2.5-VL、低VRAMでのOCRにはMiniCPM-V、汎用的な画像Q&AにはLlama 3.2 Vision、最軽量にはMoondream。タスク別の詳しい指針はPromptQuorumのローカルビジョンモデル比較を参照。

Ollamaの代替となるビジョンモデルツール

LM Studio

最適な用途:
GUI中心のローカルモデルランナー;チャットインターフェースでの画像添付によるビジョン対応モデルのサポートを確認済み
ライセンス:
無料、プロプライエタリなアプリケーション

llama.cppを直接使用

最適な用途:
Ollamaのラッパー層なしで、マルチモーダル(llava.cpp形式)対応を含む推論への最大限の低レベル制御
ライセンス:
MIT

LLaVA自身のリポジトリ

最適な用途:
研究レベルの制御、学習/ファインチューニングスクリプト——PromptQuorumのLLaVAレビューを参照
ライセンス:
Apache-2.0(コード);チェックポイントはベースモデル依存

MLC-LLM / MLC Chat

最適な用途:
プラットフォーム横断のオンデバイスLLM展開;本レビュー時点でビジョン言語モデル(VLM)対応が公式に文書化されていることは確認できなかった——ビジョンタスクで頼る前に最新状況を確認してほしい
ライセンス:
Apache-2.0

クラウドVLM API(GPT-4o、Claude、Geminiビジョン)

最適な用途:
入手可能な中で最高のマルチモーダル性能、ローカルのハードウェアやセットアップが不要
ライセンス:
プロプライエタリ(有料API)

よくある質問

Ollamaはビジョンモデルに対応しているか?

はい。Ollamaは2023年12月12日リリースのバージョン0.1.15でマルチモーダル(画像入力)対応を追加し、2026年5月頃に専用のマルチモーダルエンジンへ作り直した。本レビュー時点で、ライブラリにはLLaVA、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3、Llama 4、Mistral Small 3.1がビジョン対応モデルとして掲載されている。

Ollamaでモデルに画像を渡すにはどうすればよいか?

CLIからは、プロンプトのテキスト中に画像のファイルパスを直接記載する:ollama run llava "describe this image: ./photo.jpg"。専用の--imageフラグはない。プログラムからは、Ollama自身のdocs/api.mdに従い、/api/generateまたは/api/chatにbase64エンコードした画像をimages配列に入れてPOSTする。

Ollamaのapiに画像を送る際の正確なJSON形式は?

/api/generateの場合:`{"model": "llava", "prompt": "...", "images": ["<base64 string>"]}/api/chatの場合:{"model": "llava", "messages": [{"role": "user", "content": "...", "images": ["<base64 string>"]}]}。どちらもOllamaのGitHubリポジトリのdocs/api.md`に記載されている。

現在Ollamaのライブラリで利用できるビジョンモデルは?

本レビューで確認したもの:LLaVA(llava-llama3、llava-phi3、bakllavaの各バリアントを含む)、Llama 3.2 Vision、Qwen2.5-VL、MiniCPM-V、Moondream、Granite 3.2 Vision、Gemma 3(4B以上)、Llama 4、Mistral Small 3.1。この一覧は変わり得るため、ollama.com/libraryを直接確認してほしい。

Ollamaはビジョンモデルをファインチューニングできるか?

いいえ。Ollamaは推論専用であり——学習済みの重みを実行するだけで、学習やファインチューニングのパイプラインは提供しない。ファインチューニングには、元のモデル自体の学習スクリプトやHugging Face Transformersのようなフレームワークなど、別のツールチェーンが必要になる。

Ollamaはllama.cppを基盤にしているのか?

はい。OllamaはGGUF形式のモデル用C/C++推論エンジンであるllama.cppを、よりシンプルなコマンドラインインターフェースとHTTP APIでラップしている。OllamaのGitHubリポジトリは2023年6月26日に作成された。Apple Siliconの代替バックエンドとしてAppleのMLXフレームワークにも対応している。

OllamaはGPT-4oやGeminiのようなクラウドビジョンAPIとどう比較されるか?

Ollamaはリクエストごとの限界費用ゼロでローカルにモデルを実行し、画像をデバイス上に留めておけるが、そのライブラリはオープンウェイトモデルを中心に構築されており、複雑なシーン理解、手書き文字、曖昧な画像においては一般にプロプライエタリなクラウドビジョンAPIに劣る。プライバシー、大量利用時のコスト管理、オフライン利用にはOllamaを、入手可能な最高性能を求めるならクラウドAPIを選ぶとよい。

結論

Ollamaは2023年12月以降、ビジョン対応モデルをローカルで動かすための本当にシンプルな手段を提供し続けており、2026年5月のマルチモーダルエンジン刷新によって、LLaVAのような従来からの選択肢と並んで、Llama 4、Gemma 3、Qwen2.5-VL、Mistral Small 3.1といった新しいモデルファミリー向けにもその体験を最新に保っている。中核となるワークフロー——ollama pullの後、プロンプトに画像パスを入れてollama runするか、ドキュメント化された/api/generate//api/chatのHTTPエンドポイントを使う——は最初のv0.1.15リリース以来安定しており、これはこの上に何かを構築する人にとってOllamaの強みの一つだ。学習ツールではなく、最新のプロプライエタリなクラウドのマルチモーダル性能には及ばないが、プライベートに自己ホストし、画像処理の限界費用をゼロに抑えたい用途には、依然として最も実用的な入り口の一つであり続けている。特定のモデルを深く知りたい場合はPromptQuorumのLLaVAレビューを、ローカルビジョンモデル全体からタスク別に選びたい場合はローカルビジョンモデル比較を併せて参照してほしい。

出典

← ローカルLLM活用 に戻る