三星再次將注意力轉向PIM技術, 希望能在下一代AI應用中取代傳統HBM
三星在2021年推出了集成AI處理器的HBM2內存,名為“HBM-PIM (processing-in-memory) ”,最高可提供1.2 TFLOPS嵌入式計算能力,使內存芯片本身可以執行CPU、GPU、ASIC或FPGA的操作。三星在每個記憶體模組內註入了一個AI處理器,從而將處理操作轉移到HBM本身,從而減輕了記憶體與一般處理器之間轉移資料的負擔。
根據相關媒體報道,為了追趕競爭對手SK海力士,三星再次將注意力轉向PIM技術,希望能在下一代人工智慧(AI)應用中取代傳統HBM。 三星電子執行長兼設備體驗(DX)部門負責人韓宗熙最近在公開活動上表示,人工智慧正在以前所未有的速度改變生活,如何更負責任地使用AI變得越來越重要,三星正致力於培育更有效率、更永續的AI生態系統。
HBM是資料中心AI加速器的重要組成部分,但三星在這一領域長時間落後於SK海力士。為了重新確立自身在記憶體市場的領導地位,三星打算重新押注PIM技術,理論上能帶來翻倍的效能提升,同時平均能耗降低了近50%。
依照三星最初的構想,會將PIM技術擴展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3記憶體上,但後來遲遲沒有行動。三星在2022年曾對AMD Instinct MI100計算卡進行改造,加入了HBM-PIM晶片,然後使用96張經過改造的Instinct MI100計算卡構建了一個大型計算系統。相較於未改造前的系統,新系統在使用訓練語言模型演算法T5時效能提高了2.5倍,功耗降低至原來的2.67分之一。
三星也強調了與AMD的合作關係,傳聞正在向其供應HBM3E晶片。
延伸影片閱讀: