ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

北京 AI 酒吧使用 Nvidia 駭客松機展示本地 DeepSeek 推論,店主直言入不敷出

硬體 1 個來源 · 8/19
為何重要

這則新聞揭示了本地化 AI 推論在硬碟資源與成本上的現實困境:即便擁有 Blackwell 等頂尖硬體,要有效執行大語言模型仍需昂貴的記憶體(高達 $9,400 一組)與極端的量化技術。這也對產業發出了警訊,儘管開發者或酒吧希望展示「無限免費」的 AI 賦能,但在硬體價格與模型權重的規模差距下,實體空間難以在商業上跑得通。

北京中關村的 AI 主題酒吧「知識蒸餾」,透過招牌飲料 9.9 人民幣 / $1.50 提供免費深度字型聊天服務,但因讓出來的代幣數量是賣出飲品的 10 倍,店長承認營運上「完全虧損」。

  • 酒吧擺放兩臺 Nvidia DGX Spark mini-PC 作為展示,每臺內嵌 20 核心 ARM CPUBlackwell GPU (GB10),雖然系統共 256GB 記憶體適合 200 億引數 模型的本地推論,但來自 DeepSeek V3 (671 億引數) 的完整模型無法在此執行,只能提供蒸餾或量化後的模型切面。
  • 硬體成本極高,DGX Spark Founders Edition 機售價由 Nvidia 提漲 18%$4,699,一組配對系統成本約 $9,400,然而這些裝置僅被用作免費位址的展示品。
NvidiaDeepSeekDGX SparkAI BarLocal InferenceChina AI

來源 · 1 篇報導

首發 Tom's Hardware tomshardware.com 19:44