Apple Mac Studio (M5 Ultra) 測評:本地模型推理與工作站效能解析
為何重要
對於尋求高隱私性本地 AI 服務的組織及開發者,Mac Studio 提供了一個比 DGX Spark 更具成本效益且更靜音的單節點解決方案。這證實了 ARM 超大晶片在處理高頻寬 AI 推論與複雜多執行緒任務上的競爭力,改寫了雙方在 AI 圖形處理領域的生態版圖。接下來值得觀察 Apple 是否會基於這款晶片的架構推出專門的 AI 伺服器產品。
由於 Mac Pro 停產,Apple 推出搭載 M5 Ultra 晶片的新款 Mac Studio 作為頂級桌面工作站。測評顯示其透過專屬散熱設計與高頻寬記憶體,在執行本地大型語言模型時表現優異,甚至超越了專業推理伺服器,是一個強大的企業級單節點解決方案。- M5 Ultra 是 Apple 首款四顆晶片組合,透過 UltraFusion 連結提供 4.4 TB/s 以上的晶片間頻寬與 1.2 TB/s 的記憶體頻寬,足以在本機執行大型 LLM。- 在未調整引數的情況下,Mac Studio 處理提示的速度超越 Nvidia DGX Spark,Tokens-per-second 輸出量達到後者的兩倍。- 搭載 36 核心 CPU、80 核心 GPU 整合式顯示,配置最高 256GB 統一記憶體與 4TB SSD,售價起跳 2,499 美元,頂規約 12,299 美元。