8月11日消息，AI這兩年來成為市場熱點，并且也成為大國競爭的關鍵技術之一，NVIDIA的GPU雖然更強大，但在存儲芯片上也要依賴韓國廠商，因為HBM內存逐漸卡住AI脖子。
HBM（High Bandwidth Memory）是一種高帶寬內存標準，主要用于滿足日益增長的計算需求。
相比傳統內存，HBM可以提供更高的數據傳輸速率和更低的延遲。
在這個領域，率先量產的是SK海力士，美國也有美光公司開始量產，內存一哥三星反而是最慢的。
HBM最新標準已經到了HBM4，但市場上當前的主力還是HBM3E，堆棧層數正在從8層提升到12層，單顆容量輕松達到36GB，而SK海力士憑借技術優勢可以做到16層堆棧，容量48GB，今年就能供貨。
得益于市場優勢，SK海力士HBM事業部高管崔俊龍Choi Joon-yong日前在采訪中表示，來自終端用戶對AI的需求非常龐大，而且非常穩固。
該公司也預測到2030年之前，HBM市場將以每年30%的增長率發展，市場規模將達到數百億美元。
HBM內存也逐漸成為韓國芯片出口的王牌，去年對美國的芯片總出口為107億美元，其中HBM就占了存儲芯片的18%。
NVIDIA、AMD及Intel三家主要的AI芯片巨頭當前及下一代的AI芯片也會進一步提升HBM顯存的容量和速度，其中AMD明年的主力產品MI400將使用高達432GB的HBM4，帶寬19.6TB/s，對比MI350系列的288GB HEM3E、8TB/s分別增加50％、145％，比競爭對手的產品也高出50%。
值得一提的是，HBM也成為國內AI芯片發展的關鍵限制因素之一，國內也有公司在自研HBM芯片，但技術水平落后SK海力士一兩代，HBM3e、HBM4量產還要等幾年時間。
不過華為即將在未來兩天公布一項新技術，這項成果或能降低中國AI推理對HBM（高帶寬內存）技術的依賴，提升國內AI大模型推理性能，完善中國AI推理生態的關鍵部分。
