LLM 記憶機制架構綜覽
為何重要
此綜述為長期上下文持續(Long Context Maintenance)的技術路徑提供了系統化參考,幫助開發者在內建輸出上下文限制與外部向量儲存之間做出權衡;同時,對設計具備記憶功能 Agent 的系統架構具有重要技術指導意義。
大型語言模型的記憶機制正從計算的隱式副產品,轉變為一種架構上的顯式核心維度。
- 文中提出結合展現型(隱式/顯式)、更新動態(離線/線上)及永續性(短期/長期)三軸的架構中心分類法。
- 該研究探討寫入、路由、狀態轉換及整合機制,試圖統一計算耦合記憶與獨立可定址記憶的概念邊界。
- 文末分析混合架構、系統層級效率權衡與多維度評估,以整合分散的記憶策略研究。