ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Apple Mac Studio (M5 Ultra) 測評:本地模型推理與工作站效能解析

硬體 1 個來源 · 2 天前
為何重要

對於尋求高隱私性本地 AI 服務的組織及開發者,Mac Studio 提供了一個比 DGX Spark 更具成本效益且更靜音的單節點解決方案。這證實了 ARM 超大晶片在處理高頻寬 AI 推論與複雜多執行緒任務上的競爭力,改寫了雙方在 AI 圖形處理領域的生態版圖。接下來值得觀察 Apple 是否會基於這款晶片的架構推出專門的 AI 伺服器產品。

由於 Mac Pro 停產,Apple 推出搭載 M5 Ultra 晶片的新款 Mac Studio 作為頂級桌面工作站。測評顯示其透過專屬散熱設計與高頻寬記憶體,在執行本地大型語言模型時表現優異,甚至超越了專業推理伺服器,是一個強大的企業級單節點解決方案。- M5 Ultra 是 Apple 首款四顆晶片組合,透過 UltraFusion 連結提供 4.4 TB/s 以上的晶片間頻寬與 1.2 TB/s 的記憶體頻寬,足以在本機執行大型 LLM。- 在未調整引數的情況下,Mac Studio 處理提示的速度超越 Nvidia DGX Spark,Tokens-per-second 輸出量達到後者的兩倍。- 搭載 36 核心 CPU、80 核心 GPU 整合式顯示,配置最高 256GB 統一記憶體與 4TB SSD,售價起跳 2,499 美元,頂規約 12,299 美元。

AppleM5 UltraMac StudioLocal AINvidia DGX SparkWorkstation

來源 · 1 篇報導

首發 Tom's Hardware tomshardware.com 21:00