DeepSeek Elastic Compute(DSec):大規模智慧體訓練的彈性沙盒基礎設施
為何重要
DSec 解決了 Agent 訓練中資源利用率低與隔離需求高的矛盾,證實了為客製化 AI 框架生態設計底層分散式系統的可行性。對於矽谷與中國的 AI 組織而言,這代表在自研運算模型堆疊中,「高密度資源管理平臺」正從可選配的軟體演進為核心競爭力,未來類似的 sandbox orchestration 基礎建設將成為推動 Agent 規模化的關鍵。
為因應大型語言模型訓練與評估時的環境隔離需求,DeepSeek 發布 DSec,將 FnCall、container、microVM 和全 VM sandbox 整合為單一 SDK。
- 平臺使用叢集範圍分散式檔案系統 Fire-Flyer File System,按需載入映像資料。
- 生產環境中的單一 DSec 單位包含約 160 個節點,支援逾 38 萬個並發沙盒及每秒 5,000 個沙盒建立峰值。
- 系統透過記憶體共享與資源回收機制,在高密度超額預訂情境下維持低延遲。