開源權重推論的經濟學:延長 NVIDIA 舊世代 GPU 生命週期的潛力分析
為何重要
此研究從具體的成本結構資料,具體化說明瞭開源生態如何透過降低部署門檻,為舊世代 GPU 賦予新的經濟價值,改變了傳統「硬體代次即淘汰」的估值邏輯。
- 本文基於 Ornn Data 的分析,挑戰了「NVIDIA 每代新產品一齣,舊產品即失去獲利能力」的產業迷思。
- 針對交易平臺 Artificial Intelligence Index 上 11 個開源模型與 8 個封閉模型的比較,具備標準化智慧的模型成本僅為封閉模型的約五分之一。
- 在租賃硬體上自行部署並達到 100% 運用率時,每百萬輸出代幣 (output tokens) 的成本為 $0.12 至 $0.35,該成本遠低於封閉模型通常的按 token 官方報價。
- 研究指出在稀疏模型 gpt-oss-120b 上,A100 稀疏設定在 Spot 交易及三/五年期租約價格下的成本均低於 H100。