AI SSD：大模型推理的儲存範式轉移
為何重要
傳統 SSD 設計指標（順序頻寬、IOPS）已無法滿足 LLM 推理對時序與壽命的嚴苛要求，儲存不再是邊緣裝置，而是必須參與 Tensor 生命週期編排的核心基礎設施。這對開發者意味著系統架構需重構資料流，從單純堆疊算力轉向最佳化整個資料路徑；對投資者而言，能將儲存介質特性轉化為“推理加速器”的廠商，具備在算力紅利消退後與雲服務商深度繫結的高成長邏輯。
隨著 AI 推理步入長上下文和多智慧體階段，傳統以 GPU 為單一底座的基礎設施面臨瓶頸，系統的有效產出正日益取決於資料路徑的協同排程。儲存角色已從靜態檔案來源轉變為即時產生 Token 的推理資料層，推理狀態被視為一級資源。
- 月之暗面的 Mooncake 採用分離式架構，結合 CPU、SSD 等資源構建分散式 KV Cache 池，實現了 498% 至 59% 的端到端有效請求承載提升，單日處理超 100億 Token。
- NVIDIA 的 CMX 上下文記憶平臺在 HBM 與共享儲存間增設 G3.5 層，利用 Flash 介質在單一 GPU Pod 內提供 PB 級容量，使吞吐與功耗效率達傳統方案的 5 倍。
- 三條主要的 AI SSD 發展路線包括：由群聯 推出的最高 100 DWPD 快取盤路線、江波龍 基於存內壓縮與混合 NAND 的排程路線，以及寅譜-聯芸 試圖將計算排程邏輯延伸至儲存側的軟體定義晶片路線。