新興記憶體在 AI 領域的應用：解析記憶體內運算（CIM, Computing-in-Memory）技術趨勢

作者資訊 惠下 隆 (工學博士) RAMXEED 株式會社 資深專家

在先前發表的「MRAM 是否將成為次世代記憶體內運算（CIM, Computing-in-Memory）的關鍵？探索技術可能性與挑戰」（記憶體技術 2025.8.14）一文中，我介紹了 MRAM 在記憶體內運算（CIM, Computing-in-Memory）中的應用，並與 FeRAM（強誘電體隨機存取記憶體，亦稱為 FRAM）進行了比較[1] 。

本文將進一步說明不只是 MRAM，為何新興記憶體（包括 FeRAM、MRAM、PCRAM 等新型非揮發性記憶體技術）非常適合 AI 運算。特別是以 AI 機器學習與推論中所使用的「人工神經網路」（Artificial Neural Network: ANN）為例進行詳細解說[2]。

馮·諾曼瓶頸

目前廣泛使用的電腦採用稱為「馮·諾曼架構（Von Neumann Architecture）」的結構（圖1）。在此架構中：

• 處理數據的裝置（CPU 或 GPU）
• 儲存數據的記憶體 這兩者是分離的。

因此，每次進行運算時，運算裝置與記憶體之間都必須交換大量數據。由於數據傳輸耗費時間，會產生以下問題：

• 運算速度變慢
• 功耗增加（能源損耗）

此問題被稱為「馮·諾曼瓶頸（Von Neumann Bottleneck）」（圖2）。

特別是近年的 AI 處理數據量極其龐大，使這個問題變得越發嚴重。雖然目前的 AI 系統使用了稱為 HBM（高頻寬記憶體）的高速 DRAM 來緩解，但 HBM 存在製造難度高、價格昂貴以及供應量有限等缺點[3]。

　圖1.馮·諾曼型運算架構之概念　　　　　　　　　　　　圖2. 數據中心與半導體工廠新設/增設所帶來之個別計向最大用電需求預測（萬 kW）[3]

人工神經網路 (ANN)

在 AI 的機器學習與推論中，常用人工神經網路（ANN）[2]作為運算模型。ANN 是模仿人類大腦神經細胞（神經元）（圖3）所建構的「形式神經元（Formal Neuron）」（圖4）運算單元。

一個形式神經元的運作邏輯如下：

1. 接收多個輸入信號  x₁, x₂, …, x_N。
2. 分別乘上對應的權重（Weight）w₁, w₂, …, w_N  並加總。
3. 透過活性化函數 𝑓 與閾值 𝜃 決定輸出。

y = f (w₁x₁ + w₂x₂ + … + w_N x_N) – θ　[2]

實際的 ANN 是將這些形式神經元大量組合而成的層狀結構（圖5）。每一層的輸出成為下一層的輸入，資訊依序傳遞。

在 AI 運算中，需要反覆計算輸入值、輸出值與權重來進行學習或推論。然而在馮·諾曼架構下，頻繁的數據傳輸導致功耗巨大且計算耗時的問題極為顯著。

圖3. 神經細胞概念圖 　　　　　　　　　　　　　　　　　圖4. 形式神經元[2]

記憶體內運算（CIM, Computing-in-Memory）

ANN 運算中最核心的部分是以下稱為「積和運算（MAC）」的過程：

w₁x₁ + w₂x₂ + … + w_N x_N

傳統電腦是在數位電路（CPU/GPU）中進行此項計算。然而，若使用新興記憶體技術，可以直接在記憶體電路內部執行此運算，這被稱為「記憶體內運算（CIM, Computing-in-Memory）」。

這項技術能從根本上消除馮·諾曼瓶頸，大幅提升 AI 運算的能源效率與速度。隨著 FeRAM 與 MRAM 等技術的成熟，我們正邁向一個更高效、低功耗的 AI 運算時代。

例如在圖6(a) 的電路中，

若將加在第 N 行字元線（WL_N）的電壓設為 V_N ，

將第 N 行 M 列記憶體元件（包含可變電阻）的電晶體互導（Transconductance）設為 G_NM，

則流經第 M 列位元線（BL_M）的電流 I_M 為：

I_M = i_1M + i_2M + … + i_NM …  

     = V₁G_1M + V₂G_2M + … + V_N G_NM …  

透過各個元件流出的電流進行加總，即可自然地獲得積和運算的結果。其與人工神經網路（ANN）的對應關係如下。圖中的 SL 代表源極線（Source Line）。

V → x
G → w
I → w₁x₁ + w₂x₂ + … + w_N x_N

此方式的重要特徵在於權重資訊直接儲存於記憶體元件中。因此，不再需要與 DRAM 等外部記憶體進行數據傳輸，具有降低功耗、減少運算延遲的優點。這種電路不僅能透過 ReRAM 實現，也同樣適用於 FeRAM、MRAM 及 PCRAM。

圖5. 積和運算電路（ReRAM）[4] 　　　　　　　　　　圖6. 神經網路示例（圓圈代表人工神經元 ANN）

各類新興記憶體在記憶體內運算（CIM, Computing-in-Memory）的應用

ReRAM

ReRAM（阻變式記憶體）[4]是利用電阻值變化來儲存數據的記憶體。由於它能產生多個電阻狀態，因此可將這些狀態作為權重使用。透過稱為「交叉點結構（Crossbar Structure）」(*1)的電路，可以直接在記憶體內部執行矩陣運算。其高速與低功耗的特性，被認為是極其適合 AI 加速器的技術。

*1 指將縱向配線（位元線）與橫向配線（字元線）以格子狀方式交錯，並在每個交點處配置記憶單元（儲存數據的元件）的一種極高密度記憶體布局。

MRAM

MRAM 是利用磁性隧道接點（MTJ）的電阻值（磁阻）來作為權重發揮功能。在 AI 用途方面，它被評估為市場規模增長潛力最高的技術。[5]

FeRAM

FeRAM 利用強誘電體薄膜的極化狀態，能以高速且低功耗的方式控制類比權重。目前針對神經型態運算（Neuromorphic Computing）及儲備池運算（Reservoir Computing）的應用研究非常活躍[6]。

*2 神經型態運算：模仿人類大腦運作方式的計算手法，需設計模擬神經元與突觸結構及功能的硬體與軟體[7]。

*3 儲備池運算：一種新興計算手法，能大幅減少學習時所需的電力與運算資源，並即時捕捉、辨識與預測如人聲或物體移動等隨時間變化的數據[8]。

PCRAM

PCRAM（相變記憶體）利用結晶態與非晶態產生的多值電阻，被認為非常適合類比權重的呈現，在模仿生物突觸方面極具發展潛力[9]。

市場預測

根據民間調查公司的數據，記憶體內運算（CIM, Computing-in-Memory）市場預計在 2025 年達到 245 億美元，並於 2034 年增長至 971 億美元。隨著 AI 運算需求的爆炸性成長，這項技術未來的發展備受期待[10]。

參考文獻　

1. RAMXEED，「MRAM將成為次世代記憶體內運算（CIM, Computing-in-Memory）的關鍵嗎？技術可能性與挑戰」，https://www.ramxeed.com/jp/tech-column/mram-in-memory-computing/。
2. 田中剛平等人，《儲備池運算》，森北出版，2020。
3. 電力廣域運營推進機關，「全國及各供應區域需求預測」（2025年度），https://www.occto.or.jp/assets/juyousoutei/2024/files/250122_juyousoutei.pdf#page=16.00。
4. 竹內健等人，「低功耗邊緣 AI 半導體：ReRAM CiM（Computation-in-Memory）成功實現多值存儲大容量化與 10 年數據保存的共存」，東京大學大學院工學系研究科附屬系統設計研究中心，2025.09.11，https://www.t.u-tokyo.ac.jp/press/pr2025-09-11-002。
5. 金田昌也等人，「實現可記憶磁場履歷的新型巨大電阻變化記憶體元件——開拓磁場可控的憶阻器」，東京大學大學院工學系研究科電氣系工學專攻，2025.01.10，https://www.t.u-tokyo.ac.jp/press/pr2025-01-10-001。
6. 田原建人等人，「開發低電壓且長壽命的氧化鉿系強誘電體記憶體——顯著提升半導體非揮發性記憶體的低功耗性與可靠性」，東京大學大學院工學系研究科電氣系工學專攻，2021.06.04，https://www.t.u-tokyo.ac.jp/press/foe/press/setnws_202106041338342038093445.html。
7. IBM，「何謂神經型態運算」，https://www.ibm.com/jp-ja/think/topics/neuromorphic-computing。
8. 產總研雜誌，「何謂『儲備池運算』？從科學角度看社會關注的真實理由」，https://www.aist.go.jp/aist_j/magazine/20251008.html。
9. 雙逸等人，”相變材料最新動向與神經型態元件之應用”，IEICE 107, p.334, 2024，https://app.journal.ieice.org/trial/107_4/k107_4_334/index.html。
10. Precedence Research；記憶體內運算市場規模與預測 2025 年至 2034 年、神經型態運算市場規模與預測 2025 年至 2034 年。

作者
惠下 隆
RAMXEED 株式會社
工學博士・資深專家