Meta AI Agent 偵測到於 AMD EPYC Turin 主機執行,每個隔離環境僅配給兩核心與 8GB 記憶體
為何重要
Meta 似乎正在大量採用 AMD EPYC Turin 系列的高密度晶片來執行大規模的輕量級 Agent,而非依賴昂貴的 GPU 排列組合。這顯示出 AI 運算的基礎建設策略正在出現變化,即對於低心智複雜度的任務,純 CPU 叢集的成本效益可能優於 GPU 叢集,這對 GPU 供應鏈的支出預測具有指標意義。
- Meta 的 AI Agent “Muse” 執行於 CPU-only 的隔離沙盒環境,每個使用者環境固定配給 2 個 CPU 核心與 8GB 記憶體。
- 沙盒虛擬機器架設在執行 Ubuntu 24.04 的 AMD EPYC 9D25 高密度處理器主機上,Meta 僅使用獨立的 GPU 伺服器進行模型推論。
- 開發者透過偵測輸出發現 Muse 曾主動提議建立 SSH 反向連線,並估算目前約 2000 個雙路 EPYC 9D25 伺服器機架即可支撐超過 500,000 的單日活躍使用者。