ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

PCIe顯示卡被低估了!是石科技透過 Meta-Infer 系統性最佳化,推升推理吞吐近 7 倍

工具 1 個來源 · 1 小時前
為何重要

這凸顯了「軟體堆疊最佳化」在 AI 推理階段的關鍵價值,能有效縮小中低端顯示卡與頂級硬體間的效能差距。對於依賴開源與客製化模型的企業而言,這提供了一條在晶片供給受限背景下的可行降本路徑,推動算力評估從單純追求硬體規格轉向重視軟體調潛。

面對上游算力資源緊張,是石科技 發表自研的「Meta-Infer」高效部署引擎,旨在彌補主流推理框架與 PCIe-Only 顯示卡之間的適配落差。透過純軟體層面的最佳化策略,在不修改模型結構的前提下,大幅挖掘現有硬體潛力,為成本較低的顯示卡提供了高效能服務的可能性。

是石科技Meta-InferDeepSeekPCIe推理最佳化算力部署

來源 · 1 篇報導

首發 量子位 QbitAI qbitai.com 22:17