メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。
ホーム/ローカルLLM
Hardware & Performance

MRAMとメモリ内コンピューティング:オンデバイスAIの次のステップ?

·12 min 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

MRAMはリフレッシュ電力が不要な不揮発性の磁気メモリであり、メモリ内コンピューティングはメモリアレイ内部でニューラルネットワークの演算を実行します。オンデバイスAIには有望ですが未実証です。出荷済みのMRAM演算チップは確認されておらず、MRAMはDRAMを置き換えるのではなく補完します。消費者向け機器は3~5年以上先の見込みです(編集部の推定)。

重要なポイント

  • MRAM(磁気抵抗性RAM): 磁気トンネル接合(MTJ)を使用する不揮発性メモリ。リフレッシュ不要、スタンバイ電力の消耗なし。DRAMと同様にバイト単位でアドレス指定可能。
  • メモリ内コンピューティング: 積和(MAC)演算をメモリアレイ内部で直接実行。CPU/GPUとメモリ間のデータ移動 — 推論における主要なエネルギーコストの1つ — を削減します。
  • 現在の状況: Samsung SAITはNature論文(2022年)で64×64のMRAMクロスバーアレイを実証し、MNISTで93.2%、顔検出で93.4%の精度を達成しました。SemiFive + ICYTechは8nm eMRAMテープアウト(2026年5月)を達成。消費者向け製品はまだありません。
  • 注意点: テープアウト ≠ シリコン返却 ≠ 出荷済み製品 — SemiFive/ICYTechのチップはまだ出荷されていません。MRAMメモリ内演算の定量的な効率数値は学術系のラボ試作によるもので、商用製品のものではありません。消費者向けスマホ/PCは2029~2031年より前は考えにくい状況です(編集部の推定)。
  • 代替案: Google Researchによると、TurboQuant(ICLR 2026)は自社ベンチマークで精度損失なくKVキャッシュを3ビットに圧縮します — 同じ問題に対するソフトウェアのみのアプローチです。

📍 一文で説明

MRAMとインメモリコンピューティングは、データを行き来させる代わりにメモリ内部でニューラルネットワークの計算を直接実行することで、オンデバイスAIを変える可能性がありますが、この技術はまだ研究開発と初期プロトタイプの段階にあり、現実的な一般向け展開には3〜5年以上かかります。

💬 簡潔に説明

現在のチップは、メモリとプロセッサ間でデータをやり取りするだけで多くのエネルギーを浪費しています。MRAMは、データが保存されている場所で直接一部の計算を行うことでこれを解決しようとしています。実際の実験室での実証を伴う有望なアイデアですが、まだどのスマートフォンやノートパソコンにも搭載されていません -- 購入できるものではなく、注目すべき初期段階の技術と考えてください。

MRAM(磁気抵抗性RAM)とメモリ内コンピューティングアーキテクチャは、メモリ内部で計算を実行することで、ローカルLLM推論を制約するエネルギー集約的なデータシャトリングボトルネックを排除し、オンデバイスAIを再形成する可能性があります。Samsungの研究は概念実証を実証し、SemiFiveとICYTechは2026年5月に2Bパラメータエッジ AIチップ向けシリコンテープアウトを達成しました。ただし、MRAMはまだR&D段階 — 消費者向けデバイスではまだ利用できません。

MRAMとメモリ内コンピューティング:オンデバイスAIの次のステップ?

MRAMとは?

MRAMは、電荷(DRAMのように)や捕捉された電子(Flashのように)ではなく、磁気特性を使用してデータを保存します。中核となる単位は磁気トンネル接合(MTJ)です。2つの磁性層の間に薄い絶縁層を挟んだ構造です。小さな電流によって接合を高抵抗または低抵抗に設定します — 高 = 「1」、低 = 「0」。

主な特性:

  • 不揮発性: 電源なしでもデータが保持されます。リフレッシュサイクルは不要です。
  • バイト単位でアドレス指定可能: DRAMと同様に、個々のバイトを読み書きできます。Flash(ページ単位)とは異なります。
  • リフレッシュ電力が不要: DRAMはデータを保持するために常時リフレッシュが必要で、スタンバイ電力を消費します。MRAMは不揮発性でリフレッシュが不要です。
  • 高い耐久性: ベンダーはNAND Flashを大きく上回り、MRAMの種類によってはDRAM級に近い書き込み耐久性を報告しています。具体的な値は製品ごとに異なるため、ベンダーのデータシートをご確認ください。
  • プロセス統合: Samsungをはじめとするファウンドリは、ロジックダイにMRAMを直接組み込めます。Samsungについては28nm FD-SOIのeMRAMが出典に記載されており、より微細なノードはロードマップ上の目標です。

オンデバイスAIのメモリボトルネック

現代のAI推論は、単一の問題に支配されています。フォン・ノイマンのボトルネックです。演算(CPU/GPU)とメモリは物理的に分離しています。すべてのニューラルネットワーク演算では、データを行き来させる必要があります — 重み、活性化、トランスフォーマー内のKVキャッシュです。

このデータ移動は、実際の計算と比べて桁違いに高コストです。

Horowitzの広く引用されるエネルギー推定(ISSCC 2014、約45nmプロセス)では、DRAMから32ビットワードを読み出すエネルギーは、32ビット浮動小数点乗算の100倍を大きく上回ります。モデルの重みをDRAMからストリーミングする必要がある場合、データ移動が推論ワークロードのエネルギーの大部分を占めることがありますが、その割合はモデル、ハードウェア、プロセスノードによって異なります。メモリバスが壁になっている場合、より高速なCPU/GPUは役に立ちません。

バッテリー駆動のスマートフォン、ノートPC、エッジデバイス上のオンデバイスAIにとって、このボトルネックはバッテリーを消耗させずに推論時間を延ばすうえでの主要な障害です。

Operation
Energy cost
Relative
32-bit DRAM access500+ pJ32ビット浮動小数点乗算の130倍超
32-bit on-chip SRAM access~5 pJ32ビット浮動小数点乗算の約1.4倍
32ビット浮動小数点乗算~3.7 pJ基準(1×)
グラフ:32ビット演算あたりのエネルギー、メモリアクセス(DRAM・SRAM)と浮動小数点乗算の比較
32ビット演算あたりのエネルギーコスト: DRAMアクセスは500pJ以上(32ビット浮動小数点乗算の130倍超)、SRAMアクセスは約5pJ、乗算自体はわずか約3.7pJ(Horowitz、ISSCC 2014による45nm前後の概算値。最新のプロセスノードでは異なります)。

メモリ内コンピューティングが問題に対応する方法

メモリ内コンピューティング(processing-in-memoryまたはPIMとも呼ばれます)は、演算をメモリアレイ自体に移すことでこれを解決します。重みと活性化を別のALUにロードする代わりに、MAC演算がメモリセルのクロスバー内で直接行われます。

仕組み:

  • ニューラルネットワークの重みはMRAMセル(または他のアナログ対応メモリ)として保存されます。
  • 入力活性化は行電圧として印加されます。
  • メモリアレイのアナログ特性が、行列-ベクトル積を1回のパスで計算します — トランスフォーマー推論における中核演算です。
  • 結果は読み出され、デジタルに再量子化されます。

MRAMの現在位置

Samsung SAIT Nature論文(2022年1月):

  • メモリ内コンピューティングを実行する64×64 MRAMクロスバーアレイの実証を発表。
  • 達成された精度(Nature論文の要旨): 手書き数字(MNIST)で93.23%(ソフトウェア基準95.24%)、顔検出で93.4%。エミュレートした8層のVGG-8ネットワークでは98.86%(ソフトウェア基準99.28%)でした。
  • 電力効率:データ移動の排除による恩恵は方向性として確認されていますが、DRAMに対する具体的に定量化された電力削減は公開資料では開示されていません。
  • 制限:古典的なMLタスク(数字分類、物体検出)に高度に特化しています。大規模トランスフォーマー推論ではまだ実証されていません。
  • SemiFive + ICYTech PNM MRAMエッジチップ(2026年5月):
  • Samsung Foundry 8nm(8LPU)に組み込みMRAMを使用してテープアウトに成功。
  • テープアウト = 製造のために設計を提出した段階。シリコンはまだ返却されておらず、ベンチマークも公開されておらず、製品も出荷されていません。
  • 主張された能力:ネットワーク接続なしで最大20億パラメータのモデルのオンデバイス推論。
  • ターゲット:エッジAI、ヒューマノイドロボット、自動車におけるテキスト要約、翻訳、対話型推論。
  • 最初の商用化はアジア向け。北米のタイムラインは発表されていません。

MRAM vs HBM vs DRAM vs LPDDR5:トレードオフ

MRAMがHBMにない利点として提供するもの:

  • 不揮発性:重みが電源オフ後も保持され、ディスクから再ロードせずにインスタントオン推論が可能。
  • ゼロリフレッシュ電力:スタンバイ電流のオーバーヘッドを排除。
  • ダイへの直接統合:別個のメモリパッケージが不要。
  • 断続的に給電されるエッジノードやウェアラブルに適している。
  • HBMがMRAMに(現時点で)ない利点として提供するもの:
  • 桁違いに高い帯域幅:JEDECのHBM4仕様ではスタックあたり最大約2 TB/sが可能です。MRAMの組み込み帯域幅は未公開です。
  • 大規模モデル学習向けに大規模で実証された密度。
  • 特化型のMTJプロセス統合に依存しない。
  • 量産中のAIアクセラレータで今すぐ利用可能。
Memory Type
Peak Bandwidth
Non-Volatile
Standby Power
Form Factor
Best For
Status for AI
HBM4 (High Bandwidth Memory)JEDEC仕様で最大約2 TB/s(スタックあたり)いいえ高(リフレッシュ)インターポーザ上に積層AI学習、ハイエンド推論量産、大規模で実証済み
LPDDR5X (mobile DRAM)デバイスとバス幅により異なるいいえリフレッシュが必要(低消費電力のセルフリフレッシュモードあり)ワイヤボンドパッケージエッジAI、モバイル推論スマホ/タブレットの現行標準
MRAM (embedded eMRAM)未公開はいほぼゼロSoCダイに組み込み常時オンのエッジAI、特化型ワークロードR&D、テープアウト(2026年5月)、消費者向けはまだ
Standard DRAMモジュールとチャネル数により異なるいいえ中(リフレッシュ)DIMM、SO-DIMM汎用コンピューティング、デスクトップでの推論量産、どこにでもある

結論:MRAMとHBMは現時点で競合していません。HBMは高帯域幅のAIアクセラレータ(データセンター内のGPU、TPU)を対象とします。MRAMは、生の帯域幅よりも不揮発性とSoC統合が重要となるエッジ推論と特化型メモリ内演算を対象とします。

ソフトウェア代替案:TurboQuant KVキャッシュ圧縮

ハードウェア研究者がMRAMメモリ内コンピューティングに取り組む一方で、ソフトウェアエンジニアは別の角度からメモリボトルネックに挑んでいます。圧縮です。

Google TurboQuant(ICLR 2026、2026年3月発表):

  • Google Researchによると、TurboQuantはトランスフォーマー推論のKV(キーバリュー)キャッシュを3ビットに圧縮します — 一般的な16ビットまたは8ビット形式から削減。
  • KVキャッシュのメモリフットプリントを少なくとも6倍削減(Google Research、needle-in-haystackタスクでの値)。長コンテキスト推論では、KVキャッシュがメモリの大きな割合を占めることがあります。
  • Googleは、needle-in-haystack評価(長コンテキスト検索)を含む自社ベンチマークで精度損失なしと報告しています。arXiv論文は、チャネルあたり3.5ビットで品質が劣化しないと報告しています。
  • Google Researchによると、H100 GPU上でのアテンションロジット計算で最大8倍の高速化(4ビットTurboQuant vs 32ビット非量子化キー)。エンドツーエンドの高速化ではありません。
  • Google Researchによると、学習やファインチューニングは不要です。 既存の推論パイプラインで使うには、ライブラリの実装が引き続き必要です。
  • 仕組み:2段階プロセス — PolarQuant(Lloyd-Max重心を使用した極座標での量子化) + QJL(Quantized Johnson-Lindenstrauss変換、極端な圧縮でも内積精度を保つための誤り訂正を追加)。
  • コミュニティ実装は存在します。確認した範囲では、Googleのブログ記事は公式コードにリンクしていません。上記の数値はGoogle Researchの報告値であり、圧縮率はコミュニティ実装ごとに異なります。
  • なぜ重要か: ソフトウェアのみのメモリ削減は新しいハードウェアを必要とせず、推論ライブラリが対応すれば現在のデバイスでも役立つ可能性があります。MRAMの成熟を待つ間の、メモリボトルネックに対する実用的な対応策です。

MRAMが消費者デバイスに到達した場合

消費者向けスマートフォンとPCによるMRAMの採用は、3つの点でオンデバイスAIを再形成するでしょう。

  • インスタントオン推論: スマホが起動すると、AIモデルの重みはすでにSoC上の不揮発性MRAMにあり、ストレージからの再ロードは不要です。音声アシスタント、リアルタイム翻訳、オンデバイス推論が瞬時に起動します。
  • バッテリー寿命: メモリサブシステムでのスタンバイリフレッシュ消耗がありません。常時オンのAI機能(バックグラウンドリスニング、プライバシー保護型分析)では、省エネ効果が乗算的に効いてきます。
  • 固定電力予算でより大きなモデル: メモリ内コンピューティングがLPDDR5 + 演算分離に対して十分なエネルギー効率の向上をもたらせば、スマホは原理的には同じバッテリー予算でより大きなオンデバイスモデルを実行できる可能性があります。これは推測であり、商用製品でそのような向上が検証された例はありません。

タイムラインと率直な見通し

文書化されていること(企業のロードマップと発表。変更される場合があります):

  • 確定していないこと:
  • 主要なスマートフォンまたはSoCベンダー(Apple、Qualcomm、MediaTekなど)によるMRAM統合の発表は確認できていません。
  • 消費者向けVRAM規模(8~16 GB)のMRAM帯域幅と密度の仕様は公開されていません。
  • 大規模モデル推論(30B+)の電力効率向上はシリコンで測定されていません。
  • LPDDR5やHBMとのコストパリティは、公開されたどのロードマップにも載っていません。
  • 現実的なタイムライン(編集部の推定であり、ベンダーのロードマップではありません):
  • 2026~2028年: 小容量MRAMメモリ内演算ユニットを搭載したエッジAI SoC(ロボット、自動車、IoT)。限られた2B規模のモデル。アジア先行の展開。
  • 2028~2030年: 不揮発性キャッシュまたは特化型AIアクセラレータタイル(メインメモリの置き換えではない)としてのスマートフォン統合の可能性。
  • 2030年以降: DRAM置き換えとしての主流の消費者向けスマホ展開には、まだ解決されていない密度、帯域幅、コストの課題を解決する必要があります。2031~2035年より前は見込んでいません。
Year
Milestone
Status
2019Samsungが28nm FD-SOIでeMRAMの商用出荷開始を発表発表済み(Samsung、2019年3月)
2024Samsung 14nm eMRAM量産ロードマップ上の目標(2023年発表)
2026Samsung 8nm eMRAM量産、SemiFive/ICYTechテープアウトロードマップ上の目標、テープアウト発表済み(2026年5月)
2027Samsung 5nm eMRAMプロセス利用可能(ロードマップ)発表済みの目標
2028–2029MRAMメモリ内演算を搭載した最初のエッジAI SoCの出荷の可能性(SemiFiveほか)妥当だが未確認
2029–2031消費者向けスマートフォンへのMRAM統合の可能性(不揮発性キャッシュまたは特化型AIダイ)推測的

よくある質問

MRAMは今すぐ自分のPCやスマホ用に購入できますか?

いいえ。MRAMは複数のベンダーで量産されており、たとえば産業用およびデータセンター向け製品があります(上記のEverspin Form 8-Kを参照)。消費者向けAIについては、現時点ではR&Dのみです。SemiFive/ICYTechのチップは依然としてテープアウト段階 — シリコンはまだ返却もベンチマークもされていません。消費者への展開は現実的に3~5年以上先です。

MRAMは私のGPUのVRAMを置き換えますか?

近い将来には考えにくいです。MRAMは低スタンバイ電力と不揮発性に優れており、これらはバッテリー制約のあるエッジデバイスで重要です。HBMは別の問題を解決します。データセンターでの学習と大バッチ推論のための最大帯域幅です。消費者向けスマホと特化型エッジAIでは、MRAMがコンポーネント(組み込みキャッシュやアクセラレータタイル)になる可能性があります。ゲーミングGPUやデータセンターアクセラレータのVRAMは、当面はHBMまたはGDDRのままでしょう。

メモリ内コンピューティングとベクトルデータベースの違いは何ですか?

層が異なります。ベクトルデータベースは埋め込みを保存し、類似度で検索します(RAGパイプラインで使用)。メモリ内コンピューティングは、ニューラルネットワークの中核演算(行列-ベクトル積)をメモリ自体の内部で実行し、データシャトリングを排除します。両方を併用することもできます。推論エンジンにメモリ内演算を、検索にベクトルDBを使うといった具合です。

今日実行しているローカルLLMでTurboQuant圧縮を使えますか?

主流の推論ライブラリではまだですが、コミュニティ実装は存在します。TurboQuantは学術研究(ICLR 2026)です。OllamaやLM StudioでのTurboQuant対応が確認できた例は見つかっておらず、Googleのブログ記事も公式コードにリンクしていないため、コミュニティ実装についてはGitHubを確認してください(圧縮率や精度は実装ごとに異なります)。中核となるアイデア — KVキャッシュを積極的に量子化する — はカスタム推論コードで再現可能です。

MRAMはトランスフォーマーで機能しますか?

Samsungは古典的なMLタスク(数字分類、顔検出)で実証しました。MRAMメモリ内演算でのトランスフォーマー規模の推論(7B+モデル)は発表されていません。妥当ではありますが未実証です。SemiFiveのチップは2Bパラメータの能力を主張しています。シリコンが返却され出荷されれば、実際のベンチマークが得られるでしょう。

MRAMは3D XPoint(Intel Optane)と同じですか?

いいえ。3D XPointはIntelとMicronが開発したストレージクラスメモリ技術でした(現在は生産終了)。MRAMはデータを磁気的に記憶します。3D XPointは動作原理が異なります。両方とも同じ問題領域 — 高速で耐久性のある不揮発性ストレージ — を対象としますが、異なるアプローチを使用します。

MRAMはDRAMと比べてどれくらい電力を節約しますか?

スタンバイ時:MRAMは不揮発性でリフレッシュが不要なため、DRAMが消費するリフレッシュ電力を避けられます。ベンダー中立的なギガバイトあたりの数値は見つかっておらず、削減幅はデバイスと容量によって異なります。メモリ内演算を伴うアクティブ推論時:SamsungのNature論文はアナログメモリ内演算を低電力の可能性があるアプローチとして示していますが、DRAMと比較した定量的な削減値は見つかりませんでした。商用シリコンの数値は、製品が出荷され独立してベンチマークされたときに得られます。

MRAMはDRAMを置き換えますか?

当面はメインメモリとしては置き換えません。MRAMの強みは不揮発性とリフレッシュ電力が不要な点であり、組み込みキャッシュや低電力エッジアクセラレータに適しています。DRAMとHBMは、密度、帯域幅、ビットあたりコストで依然として優位性を保っています。MRAMの現実的な役割は、DRAMの置き換えではなく、補完的な不揮発性タイルまたはメモリ内演算ユニットです。

Qualcommは2026年にメモリボトルネックを解決しましたか?

QualcommはDragonflyブランドのHBC(High-Bandwidth Compute)を2026年のInvestor Dayで発表しました。演算とメモリを3D積層シリコンで結合するニアメモリ型の設計で、Qualcommはワットあたりの帯域幅がHBMの約6倍、ワットあたりの容量がSRAMの200倍と主張しています(ベンダーの主張であり、独立検証はされていません)。MetaはDragonfly C1000サーバーCPUを使用する複数世代の契約を結びましたが、確認した情報源では、HBCを使用するAI250/AI300アクセラレータの顧客をQualcommは明らかにしていません。重要な違いは3つです。HBCはニアメモリ(メモリの隣で演算)であり、MRAMのメモリ内コンピューティング(メモリアレイ内部で演算)ではないこと、スマートフォンではなくデータセンターのAIアクセラレータ向けであること、第1世代HBC(AI250)の商用サンプリングは2027年半ば、HBC Gen 2(AI300)は2028年の予定で、まだ何も出荷されていないことです。同じメモリの壁の問題に対する別のアプローチであり、MRAMのブレークスルーではありません。

関連記事

出典

サードパーティの情報に関する注意

この記事はサードパーティのAIモデル、ベンチマーク、価格、ライセンスを参照しています。AIの状況は急速に変化しています。ベンチマークスコア、ライセンス条件、モデル名、API価格は執筆時とお読みになる時の間で変わる可能性があります。この記事に基づいてデプロイやコンプライアンスに関する決定を下す前に、各プロバイダーの公式ソース(ライセンスとベンチマークはHugging Faceのモデルカード、API価格はプロバイダーのウェブサイト、現在のGDPRとEU AI法のテキストはEUR-Lex)で最新の数値を確認してください。

ローカルLLM、独自のAPIキー、またはその両方でPromptQuorumを使用できます — バックエンドはあなたが選択します。

PromptQuorumベータ版をダウンロード →

← ローカルLLMに戻る

MCP