Databricks 透過基礎設施架構將 AI 編碼開支削減 70%
為何重要
此趨勢標誌著 AI 產業從追求頂尖智慧的「智慧邊界」轉向追求成本效益的「效率邊界」，企業將不再單純跳單昂貴的模型，而是透過 Middleware 架構來最大化每一分預算的產值，這將重創 Proprietary Frontier Labs 的溢價空間。 投資人與決策者應關注具備跨模型整合能力的基礎設施供應商，因為自動化路由與開源模型的混合策略正在成為新的行業規範。
面對 AI 編碼工具的成本爆炸，Databricks 與 Stripe、Coinbase 等公司透過選擇具備「效費比優勢」的模型與動態路由技術，在保留開發生產力的前提下，將總體 AI 編碼支出大幅壓低。
- Databricks 的 AI Gateway Smart Router 能將平均任務成本降低 超過 30%，同時維持與最昂貴模型相當的品質水準。
- Stripe 內部評估後拒絕匯入 Opus 4.7，因為該模型在品質提升不明顯的情況下顯著增加了成本；Opus 5.0 相較於 Opus 4.8 也出現了成本回檔。
- 透過開源 Omnigent（End user meta-harness）與 Unity AI Gateway，公司提供了避免使用者被特定模型鎖定的架構，並強調需建立自動化評估系統以篩選開源模型。