高頻寬快閃記憶體（HBF）是一款新型記憶體架構，可滿足高階運算及資料密集型應用對容量、能耗、吞吐量及可擴展性的需求。相較於高頻寬記憶體（HBM），HBF在維持同等頻寬的前提下，能夠提供更高容量與儲存密度，更加貼近AI推論的發展趨勢。
人工智慧（AI）正全面席捲整個運算領域。儘管目前全球僅約七分之一的資料中心具備承載AI工作負載的能力，但到2030年，這個比例預計將接近70%。AI正從超大規模資料中心遷移至企業級資料中心，並進一步部署至網路邊緣——邊緣AI應用預計將於2030年底創造近665億美元的價值。資料是這全新運算時代的核心動能，海量資料必須以高速傳輸至需求迫切且快速擴展的AI運算基礎架構中。
然而，這龐大的內容資料庫正使傳統儲存架構不堪負荷，也進一步凸顯其固有的架構限制。資料中心記憶體如DRAM與高頻寬記憶體（High Bandwidth Memory，HBM）在密度、儲存容量與可擴充性方面，逐漸難以應對大型AI模型日益增長的需求。同時，超大規模運算設備供應商也正面臨DRAM與HBM生產成本攀升、設計複雜度提高以及能源消耗增加等挑戰。在企業級資料中心與邊緣AI應用領域，這項挑戰更為嚴峻——由於實體空間相對有限，因此更難以承受持續攀升的記憶體成本與電力消耗。
此外，AI推論也帶來另一項亟待解決的挑戰。作為時下最主要的AI工作負載，AI推論在資料管理方面的需求與AI訓練截然不同：推論需要儲存規模龐大且持續擴展的AI模型，而基於HBM與DRAM的記憶體方案已難以滿足這些新興需求，其在容量與成本可擴展性上存在明顯瓶頸。面對這些差異顯著的記憶體特性，市場亟需一種專為AI推論打造的最佳化記憶體技術。
為何DRAM與HBM無法滿足AI推論工作負載需求？
要理解為何單靠DRAM與HBM不足以支撐AI的長期部署，可參考以下限制。這些問題起初只是細微隱患，但若不加以解決，將隨時間推移不斷擴大，最終動搖以AI為核心的下一代儲存架構的根基。
‧密度瓶頸：DRAM容量擴展已陷入停滯，而支撐AI推論所需的容量需求卻持續攀升。
‧不符合AI推論需求：DRAM所具備的低延遲與隨機存取優勢不適用於AI推論。AI推論的資料存取模式具確定性，且可藉由資料預先擷取等技術降低延遲帶來的影響。
針對AI推論最佳化的記憶體架構特性
規模達1,200億美元的DRAM產業正面臨上述深層矛盾。隨著超大規模服務供應商在AI架構領域的支出預計在2030年底達到6.7兆美元，DRAM產業也正積極鞏固自身在資料中心領域的既有地位。
如果現在正是跳脫框架的最佳時機，從零開始打造一款符合應用需求的全新記憶體，而非讓應用遷就既有儲存架構，結果將如何？一款針對AI最佳化的儲存級記憶體應具備以下特性：更大且可擴展的記憶體容量，專為推論工作負載配置；更高的記憶體密度（GB/mm²）；高頻寬，可滿足AI推論需求；更低的系統級功耗；更好的成本效益指標（美元/TB）。
高頻寬快閃記憶體聚焦AI資料中心
高頻寬快閃記憶體（High Bandwidth Flash，HBF）是一款具突破性的新型記憶體架構，專為驅動下一代AI運算而打造。HBF可滿足高階運算及資料密集型應用對容量、能耗、吞吐量及可擴展性的需求。相較於HBM，HBF在維持同等頻寬的前提下，能夠提供更高容量與儲存密度，更加貼近AI推論的發展趨勢。此外，作為一款持久性儲存媒介，HBF在斷電後仍能保存資料，且具備熱穩定性，可支援高溫運作環境。
為實現上述優勢，HBF採用Sandisk的BiCS設計平台、製造技術及晶粒架構，透過最佳化高頻寬特性與推論記憶體屬性，重新定義NAND快閃記憶體，並採用BiCS CMOS鍵合陣列（CBA）晶圓技術，進一步提升能效與頻寬。
HBF重塑面向AI應用的NAND快閃記憶體
相較於傳統NAND快閃記憶體，HBF透過平行架構、先進邏輯縮放技術與客製化堆疊技術，實現更低延遲與超高讀取頻寬，讓大型語言模型能以接近DRAM的速度串流讀取資料。
AI需要更高的記憶體容量和頻寬，但HBM DRAM技術的進步緩慢，已經完全追不上GPU運算效能的成長腳步。
HBF亦支援大型KV快取（Key-Value Cache），可有效處理冗長複雜的使用者指令，以及客戶專屬與特定領域資料，提升AI推論的準確性。
推動以記憶體為核心的AI擴展至企業級場景與網路邊緣
受密度、成本與功耗限制，HBM普遍難以應用於邊緣與行動環境，而HBF透過更大的記憶體容量，實現更複雜的AI推論任務。這為智慧型手機等邊緣設備開啟新的應用空間，使其能夠即時做出決策並執行各類複雜任務。此外，HBF擁有持久性儲存的特點，也可支援從歷史查詢中無縫擷取過往上下文，用以解決新問題。
HBF的優勢可同樣延伸至企業級運算場景。這類場景的使用者規模遠小於超大規模資料中心，而仰賴HBM的大型GPU叢集成本往往過高。藉由導入搭載HBF的加速器，中小型企業有望對大型預訓練模型進行最佳化，以支援特定領域的應用需求。
最佳化記憶體架構突破AI運算成長瓶頸
資料中心與邊緣AI設備正日益普及，並能自主支援從查詢「晚餐食譜」到「突破性科學發現」等各類任務。傳統的網站託管、企業資料管理等常態性工作正逐步讓位給運用機器學習、深度學習與資料分析技術，以產生具體可行洞察的智慧工作負載。
現今正是重新檢視資料中心與邊緣運算記憶體儲存的重要時刻，相較於HBM，HBF在具備顯著容量優勢的同時，可提供AI推論應用所需的高吞吐量。作為可擴展的全新系統級記憶體技術，HBF有助於減少效能瓶頸，加快現代資料中心與邊緣網路中AI應用的洞察生成速度。