メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。
ホーム/ローカルLLM
Enterprise

オンプレミス・エアギャップローカルLLM: 機密環境の隔離デプロイ

·12分 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

エアギャップLLMは、インターネット接続のないインフラ上で動作するため、プロンプトや文書が外部APIに届きません。政府、防衛、規制産業が機密性の高いデータに用いる構成です。モデル、更新、ログは、管理されたオフライン転送の手順でのみ持ち込まれます。

重要なポイント

  • エアギャップ = インターネットから完全隔離。外部システムへのネットワーク接続ゼロ。
  • 使用例: 政府(機密)、軍事(戦争シナリオ)、金融(高セキュリティ)、医療(HIPAA超機密)。
  • チャレンジ: モデル、埋め込み、依存関係の自動更新不可。手動更新手順必須。
  • アーキテクチャ: 専用ハードウェア、暗号化ストレージ、ユーザーアクセス制限、物理セキュリティ。
  • ネットワーク隔離: ファイアウォール、エアギャップアプライアンス、ネットワークセグメンテーション。
  • モデル管理: USB、セキュアメディア、内部ネットワーク経由のみ; クラウドアクセスなし。
  • 更新: 手動プロセス―オフラインで更新テスト、セキュアチャネル経由でデプロイ。
  • エアギャップは、機密データを扱う政府機関や防衛関連企業でよく見られる運用形態です。

📍 一文で説明

エアギャップ展開とは、LLMインフラとインターネットまたは外部システムとの間のネットワーク接続がゼロであることを意味します。モデルと更新は物理メディアまたは隔離された内部ネットワークを通じてのみ移動します。

💬 簡潔に説明

エアギャップAIサーバーは、ネットワークケーブルもWiFiもないコンピューターのように、インターネットから完全に切断されています。エアギャップはリモート攻撃の経路をなくすため、機密データ向けの最も強力な隔離手段の一つです。ただし、内部者、侵害されたリムーバブルメディア、物理的アクセスからは守れません。その代償として、AIモデルの更新は自動ダウンロードではなく手動作業が必要になります。

エアギャップLLMは、インターネット接続のないインフラ上で動作するため、プロンプトや文書が外部APIに届きません。政府、防衛、規制産業が機密性の高いデータに用いる構成です。モデル、更新、ログは、管理されたオフライン転送の手順でのみ持ち込まれます。

オンプレミス・エアギャップローカルLLM: 機密環境の隔離デプロイ

エアギャップとは?

エアギャップはネットワーク接続を物理的・論理的に切断すること。インターネット0、外部接続0。

  • 定義: LLMと外部ネットワーク間に「エアギャップ」(物理的隔離)がある状態。
  • 目的: データ流出リスクの低減と機密保護。HIPAAやFedRAMPなどの規制への適合は、隔離だけでなく組織的な管理策全体で判断されます。
  • 制約: 自動更新不可、外部リソース利用不可、手動管理必須。
  • セキュリティ効果: インターネット経由の外部からの攻撃経路を断ちますが、内部者、リムーバブルメディア、物理的アクセスによるリスクは残ります。

アーキテクチャ設計

エアギャップLLM最小構成: GPU、CPU、メモリ、ローカルストレージ、管理端末。

  • 計算層: 例として RTX 4090 × 2(70B推論の一例)や、NVIDIA A100 などのデータセンター向けGPU。構成は要件によって異なります。
  • ストレージ: 暗号化NVMe (LUKS/BitLocker)、12-24TB (モデル + キャッシュ)。
  • ネットワーク: 物理的に隔離。内部LANのみ。外部接続ケーブル完全削除。
  • 管理: エアギャップ内の管理ワークステーション、シリアルコンソール、物理キーボード。
  • 更新メディア: USB 3.0 (暗号化)、光学メディア(DVD-R)、専用転送デバイス。
  1. 1
    専用ハードウェア: LLM推論専用のサーバー。他の用途には使用しない。
  2. 2
    隔離されたネットワーク: 企業ネットワークやインターネットへの接続なし。最大でも独立したVLANのみ。
  3. 3
    暗号化ストレージ: すべてのモデルファイル、データ、ログを保存時に暗号化。
  4. 4
    制御されたアクセス: 権限を持つ担当者のみアクセス可能。多要素認証が必須。
  5. 5
    物理的セキュリティ: 施錠されたサーバールーム、監視カメラ、アクセスログ。
  6. 6
    リムーバブルメディア禁止: USBポートを無効化、CD/DVDドライブを撤去。
  7. 7
    ローカル監視: ログはシステム内に保持され、外部の監視サービスには送信しない。

ネットワーク隔離

完全隔離は物理的ハードウェア隔離を意味す。ファイアウォールだけは不十分。

  • 物理隔離: ネットワークケーブル削除。WiFi/Bluetooth 無効化。USB制限。
  • 監視: IDS(侵入検知)、ログ監査、アクセス制御。
  • 検査: エアギャップデバイスへの追加デバイス/媒体は検査必須。
  • 更新転送: エアギャップメディア (USB厳格管理) で手動転送のみ。

モデルとデータ管理

モデルはエアギャップ内で一度限りインストール。更新は手動。

  • 初期インストール: セキュアUSB from Hugging Face公式、検証ハッシュ確認。
  • バージョン管理: すべてのモデルバージョンをローカルで管理。削除禁止。
  • 更新: 政府/企業のセキュリティレビュー後、オフラインで新モデル検証。
  • バックアップ: エアギャップ内の隔離ストレージに3世代保持。

更新とメンテナンス

自動更新不可。すべて手動。テストは隔離環境で。

  • ソフトウェア更新: RHEL/Ubuntu パッチ は月1回、セキュリティボード承認後。
  • モデル更新: 新モデル版は隔離テストマシンで動作確認、セキュリティスキャン後、デプロイ。
  • 依存関係: pip/npm 更新も手動。オフラインホイール/パッケージ。
  • ダウンタイム: メンテナンスウィンドウ (2週間に1回、計画)。

セキュリティ考慮事項

  • 物理セキュリティ: 施錠ラック、CCTV、アクセスログ、要員チェック。
  • ユーザーアクセス: 最少権限原則。CLI のみ、GUIなし。ロール分離 (管理者 vs ユーザー)。
  • ログ監査: すべてのアクセス、実行コマンド、ファイル変更をログ。外部キューバックアップ。
  • 暗号化: ディスク全体(LUKS)、転送メディア(AES-256)、データベース(Encrypted SQLite)。
  • シークレット管理: API キー、パスワード → ハードウェアセキュリティモジュール(HSM) or オフライン暗号化金庫。

一般的ミス

  • WiFi/Bluetooth 有効なまま。エアギャップ無効。物理的にオフに。
  • USBポート常時有効。悪意あるメディア挿入リスク。USBホワイトリスト実装。
  • ログなし。セキュリティ監査失敗。すべてのアクセス記録必須。
  • パスワード紙にメモ。金庫に施錠保管必須。
  • テスト環境の甘いセキュリティ。テスト = 本番同等セキュリティ必須。

エアギャップシステムに関するよくある質問

エアギャップシステムでモデルをどう更新しますか?

暗号化USB経由での手動更新、またはインターネットから隔離された内部セキュアネットワーク経由で行います。すべての更新は変更管理の承認と監査証跡が必要です。

エアギャップシステムでクラウドバックアップを使用できますか?

いいえ。クラウドバックアップにはインターネット接続が必要であり、エアギャップの原則に反します。別の安全な施設に保管する物理バックアップ(暗号化ハードドライブ)を使用してください。

エアギャップはすべての攻撃に対して本当に安全ですか?

おおむね安全ですが、内部脅威は残ります。エアギャップはリモート攻撃には強いものの、物理的アクセスや内部者によるアクセスで侵害される可能性があります。

エアギャップデプロイメントのコストはどれくらいですか?

コストは規模によって大きく変わります。ハードウェアは通常のオンプレミスと同程度であることが多い一方、更新・監査・変更管理が手作業になるため運用コストは増えます。要件に合わせて見積もりを取ってください。

エアギャップ環境で標準ツール(Ollama、vLLM)を使用できますか?

はい。どちらのツールもインターネットなしで動作します。モデルと依存関係をオフラインでインストールし、更新確認とテレメトリを無効にすれば、インターネット接続は不要です。

完全なエアギャップは不要だがGDPRへの対応が必要な場合はどうすればよいですか?

エアギャップが不要でGDPRへの対応が必要なワークロードには、EUデータ所在地を選べるクラウドGPUオプション →(Hetzner、Scaleway、OVHcloud)が、隔離の複雑さなしにEUデータ所在地を提供します。ただし、GDPR全般への適合は、法的根拠、契約、保護措置によって左右されます。法的助言ではありません。

サードパーティの情報に関する注意

この記事はサードパーティのAIモデル、ベンチマーク、価格、ライセンスを参照しています。AIの状況は急速に変化しています。ベンチマークスコア、ライセンス条件、モデル名、API価格は執筆時とお読みになる時の間で変わる可能性があります。この記事に基づいてデプロイやコンプライアンスに関する決定を下す前に、各プロバイダーの公式ソース(ライセンスとベンチマークはHugging Faceのモデルカード、API価格はプロバイダーのウェブサイト、現在のGDPRとEU AI法のテキストはEUR-Lex)で最新の数値を確認してください。

ローカルLLM、独自のAPIキー、またはその両方でPromptQuorumを使用できます — バックエンドはあなたが選択します。

PromptQuorumベータ版をダウンロード →

← ローカルLLMに戻る

MCP