Metis：記憶基礎模型
為何重要
目前開發 Agent 多仰賴外部 RAG 系統或向量資料庫維持上下文，Metis 的原生記憶架構點出了一種將記憶能力內建於模型架構內的替代方案，可能簡化未來 Agent 系統的複雜度並潛在提升推論效率。對於架構設計者而言，這是一個從外部狀態管理轉向內部模型狀態管理的技術路徑探索。
為了彌合 AI Agent 目前仰賴外部模組儲存功能的落差，研究團隊提出「記憶基礎模型」概念並推出原型 Metis，試圖將持久且動態演化的記憶狀態內建於基礎模型骨架中。
- Metis 引入記憶注意力機制，歷史資訊可被壓縮排模型內並透過原生日記憶程式存取，訓練時採用大規模記憶專用資料與多項最佳化目標進行中途訓練。
- 該模型在推理時採用「權重凍結、狀態更新」策略，僅需單次前向傳播即可進行記憶更新，且線上記憶維護過程無需梯度計算。