PIM（Processing-in-Memory）是什麼？次世代記憶體內運算的基礎與應用

PIM（Processing-in-Memory，或稱IMC：In-memory computing，記憶體內運算）是將運算功能整合至記憶體內部，解決傳統架構瓶頸的次世代技術。本文將詳細解說在AI與大數據領域備受關注的PIM運作機制與優勢、與FeRAM和ReRAM的整合可能性，以及主要企業的技術投入。

PIM（Processing-in-Memory）是什麼？

PIM的定義與背景課題

PIM（Processing-in-Memory，記憶體內運算）是一種讓記憶體本身具備運算功能，將處理器與記憶體間的資料傳輸最小化，大幅提升處理效率的技術。在傳統架構中，CPU與DRAM之間需要頻繁移動資料，這成為了效能瓶頸。特別是在AI、大數據等處理龐大資料的應用中，記憶體頻寬的限制會制約處理速度，而PIM作為解決此問題的新方法備受關注。In-memory computing（記憶體內運算）技術正是為了突破這些限制而發展。

與傳統架構的差異

在傳統的電腦架構中，運算處理由CPU或GPU負責，記憶體則負責資料的儲存與讀取。這種分離模式設計簡單且通用性高，但需要頻繁移動大量資料，導致功耗增加與延遲問題。PIM從根本上重新檢視這種結構，在記憶體內部嵌入運算功能，實現記憶體內處理（In-memory processing）。其結果是將資料移動降至最低，同時實現高處理性能。

PIM的分類與架構範例

PIM大致分為「邏輯記憶體內型（Logic-in-Memory）」和「邏輯近記憶體型（Logic-near-Memory）」兩種。前者將記憶單元與運算電路物理整合，處理效率高但設計難度較高。後者在記憶體附近配置運算電路，在保持與傳統製程相容性的同時活用PIM優勢。具體實作範例包括Samsung的HBM-PIM和UPMEM的RISC-V基礎DRAM內處理單元等。

PIM的技術特徵與優勢

透過減少資料傳輸提升性能

PIM最大的特徵是透過減少資料傳輸次數來提升處理性能。在傳統架構中，CPU與記憶體間的匯流排頻寬成為限制，大規模資料處理時處理速度會受到很大限制。在PIM中，由於運算處理在資料附近進行，可避免匯流排壅塞，降低處理延遲。這種In-memory computing方式，在AI推論、影像處理、科學技術計算等資料密集型應用中特別能發揮顯著效果。

功耗最佳化與節能效果

記憶體與CPU間的頻繁資料移動會消耗大量能源。PIM在記憶體內部或附近進行運算處理，可大幅削減此能源成本。實際上，Samsung的HBM-PIM相較於傳統處理方式，據報導實現了最高70%的功耗削減。省電特性在電池驅動的邊緣裝置和資料中心尤其重要，PIM正是符合這些需求的技術。

可擴展性與即時處理能力

PIM架構可將運算單元分散配置於眾多記憶單元中，實現高可擴展性。藉此提升大規模資料集的平行與即時處理能力。此外，由於資料物理上保留在記憶體內，快取遺失（Cache Miss）發生率降低，更容易獲得可預測的處理時間。這些特徵也適用於需要即時性的機器人技術和工業物聯網。

PIM的應用領域與相關記憶體技術

AI/機器學習領域的應用案例

PIM特別在AI與機器學習領域的應用持續進展。在這些應用中，需要在記憶體上保持大量參數與權重資料並重複進行運算，因此資料傳輸成本成為嚴重課題。透過活用PIM，可以更高速且省電地執行各種推論處理與學習演算法。Google、NVIDIA、Samsung等公司正推進活用PIM的AI加速器研發，預期未來應用將進一步擴大。

與FeRAM、ReRAM的親和性與可能性

FeRAM（鐵電記憶體）和ReRAM（電阻式記憶體）具有非揮發性、高集積性、低功耗等特點，與PIM架構的親和性很高。將FeRAM或ReRAM作為PIM的儲存媒介使用，即使在電源關閉時也能保持資料，同時能直接執行必要的處理，因此適合能源效率高的邊緣AI與物聯網用途。特別是在感測器裝置內的前處理或資料過濾等輕量處理方面，採用ReRAM基礎的In-memory computing非常有效。

主要企業與研究機構的投入

為了PIM技術的商用化，半導體業界的主要廠商與大學研究機構正積極投入。Samsung已將HBM-PIM推向量產，UPMEM提供嵌入RISC-V的DRAM基礎PIM晶片。瑞薩電子（Renesas Electronics）也正推進面向邊緣AI的PIM晶片研發，國內外的應用案例持續增加。隨著未來標準化與基礎建設的完善，預期技術將進一步普及。

總結

PIM的本質與未來展望

PIM透過記憶體與運算的融合，從根本上解決傳統運算瓶頸，是一種革新性架構。在AI、大數據、物聯網等以資料為中心的社會中，不著重於資料的「移動」而是「活用」，實現性能與效率的兼顧。In-memory computing技術的發展，今後軟體工具鏈的充實以及與既有處理器的共存策略整備將成為重要課題。

設計工程師應關注的要點

導入PIM時，需要從系統整體架構設計、配合記憶體特性的運算手法、軟體控制性等多角度考量。特別是對設計工程師而言，需要理解與傳統分離型設計的差異，進行記憶體選用與加速器配置的設計判斷。此外，與FeRAM、ReRAM等非揮發性記憶體結合的低功耗、高效率系統設計，可能成為未來的差異化要素。

與相關技術的比較與選用指南

與PIM競爭或互補的技術包括NVM運算（NVM Computing）、近記憶體運算（Near-Memory Computing）、SoC基礎AI加速器等。各技術都有擅長的領域，需要根據適當用途進行選用。例如，重視即時處理時PIM較有優勢，大規模學習用途則與GPU或TPU併用較為有效。作為設計工程師，需要看準應用需求與性能、功耗、成本的平衡進行技術選用。

RAMXEED提供的FeRAM產品列表
https://www.ramxeed.com/zh-tw/products/feram-products/

RAMXEED提供的ReRAM產品列表
https://www.ramxeed.com/zh-tw/products/reram-products/