研發者閘道器 Manifest 宣佈棄用自家的 LLM Router 機制，認為單一模型穩定性優於 Router
為何重要
Manifest 的決定對於重視成本控制與 agent 可靠性的企業開發者是一個重要的務實指標。它挑戰了目前業界紛紛投入 LLM routing 的熱潮，指出在不必要的地方引入複雜度（如動態切換模型、額外的 evals 與 observability）可能反而增加維護負擔。這暗示了在短期內，利用 Cache 最佳化與熟練的超引數調整，可能仍是比「Router」更好的成本/品質解方。
- Manifest，一家提供 LLM gateway 服務的開發工具商，在功能上市僅四個月後，宣佈於 9 月 1 日永久停用其 LLM router 功能。
- 研究顯示 Cache 讀取的成本僅需 75% 到 90% 就能達到省錢效果，這使得預先配置單一模型往往比動態路由更划算。
- 使用者發現無法僅憑 prompt 推斷任務複雜度，且頻繁切換模型會破壞工程師的 workflow 一致性並降低產出品質。