Cloudflare 整合 Workers AI 與 AI Gateway 為單一 AI 操控平面
為何重要
Cloudflare 正試圖打造一個邊緣端的「全功能 AI 汽車大廠」,透過統一控制平面大幅降低開發者整合多個 AI 服務供應商的技術門檻。此舉不僅強化了其邊緣運算平臺的粘性,更在供應鏈複雜化(如各國法規)的背景下,提供了一種幾乎免維護的統一模型路徑,對於希望快速部署 Agent 的開發者具備一定吸引力,但要挑戰 AWS、Google Cloud 定製化大模型的地位仍較為困難。
Cloudflare 將 Workers AI 與 AI Gateway 統整為單一開發者路徑,讓開發者透過初始化為「default」的閘道器即可存取 GPU 基礎設施上的模型推理與全方位的可觀察性、安全性與計費。產品藉由統一的 /ai/ 餘端點與繫結機制,進行進階的模型導向選路與智慧路由試點(例如自動切換至 Moonshot 的 Kimi K2.7 Code)。
- 統一入口點引介:開發者不再需要在 Workers AI 與 AI Gateway 之間做選擇,透過單一的
/ai/端點或 AI 繫結即可存取服務。 - 自動觀察性:若未設定過 AI Gateway,使用者僅需傳遞
default作為 gateway ID,即可在首次認證請求後自動建立閘道並取得完整的請求/響應日誌與代幣追蹤。 - 費用通吃:AI Gateway 信用點現已可用於支付 Workers AI 費用,實現跨供應商(如 OpenAI、Anthropic 或 Workers AI)的統一帳單。
- 未來路由策略:Gateway 朝向「Model-first」路由演進,使用者在請求 K3.7 Code 時可無需關心具體供應商,系統將自動處理容錯與負載平衡。