微軟告誡工程師:Tokenmaxxing 不是最佳化目標
為何重要
微軟此舉標誌著 AI 市場從「數量競賽」轉向「成本效益」驗證的關鍵時刻;對投資人而言,這代表企業將更審視採用 AI 所帶來的實質 ROI,而非單純的營收成長;對開發者來說,未來衡量 Copilot 或類似工具的生產力將核心轉移至「輸出質量」與「成本控制」,片面追求高 Token 量將不再被容忍。
微軟內部正試圖扭轉工程師濫用 AI Token 的風氣,希冀將重心從炫燿消耗量轉向實際業務價值。微軟執行副總裁 Jay Parikh 明確警告這種行為,並指出個別部門可能因此面臨使用限制。
- 微軟執行副總裁 Jay Parikh 在內部 memo 中寫道:「Tokenmaxxing 不是我們最佳化追求的目標。我希望我們專注於最大化能帶動客戶和業務成長的結果。」
- GitHub 已於六月移除按時間計費,改以「AI Credits」進行用量計費,此舉讓工程師難以忽視 Token 消耗的成本。
- 對此,一名微軟員工向媒體反映,這彷彿是承認身為 AI 基礎設施運營者的微軟,自身也無法負擔其產品成本。