Launch HN：Tokenless (YC S26) – 透動態路由自動切換模型以節省 AI 成本
為何重要
隨著企業匯入 AI Agent 後的營運支出（OpEx）激增，Tokenless 針對中下游成本控制提供了直接的軟體層解決方案。如果其宣稱的「根據進度動態路由」技術屬實，將證明將推理最佳化從硬體加速轉向軟體邏輯的可能性，降低企業對單一高價 API 的死忠依賴，意味著「AI Ops」與「推理最佳化」正在成為新的基建藍海。
Rohit 推出 Y Combinator (YC) S26 孵化計畫的新創產品 Tokenless，這是一個專為 AI Agent 場景設計的 API 閘道。其核心功能是在使用過程中動態路由請求，於昂貴的前沿模型與便宜的開源模型之間切換，從而有效降低 AI 花費。
- 效能優勢：開發的切換導覽器據稱能達到 Claude Fable 5 的表現，但成本僅約一半。
- 最佳化技術：使用同時查詢多個模型並根據其進度來決定路由的新穎方法，且能管理熱/冷快取以避免資訊遺失。
- 市場擴充：計畫在未來納入 Kimi K3 以及「所有其他 GPT 系列努力」等模型。
- 免費額度：註冊即可獲得 $20 免費額度供體驗。