Gimlet Labs 宣佈 3 億美元 B 輪融資，打造多元晶片堆疊的推理雲端
為何重要
隨著 AI 推理需求超越訓練成為絕大多數工作負載，傳統單一通用硬體架構無法滿足超大模型、長上下文與 Agent 動作的需求。Gimlet 的「multisilicon cloud」標誌著垂直基礎設施商開始嘗試通過軟體分離技術利用多元晶片優勢，這可能改變下游企業對雲端供應商的依賴模式。另從資源角度看，在電力成本逼近硬體成本的世紀辯證中，能效比（tokens/kW）將成為決定獲利關鍵。
Gimlet Labs 發布 3 億美元 B 輪融資，專注於解決 AI 推論對電力與延遲的雙重極限挑戰，主張透過異構硬體架構來重組推理基礎設施。
- 本輪由 Andreessen Horowitz 等領投，總融資額 3 億美元，並吸引 Arm、三星投資人等參與。
- 自 3 月以來累計簽約收入達數十億美元，並正在擴充近數百兆瓦的資料中心管理容量。
- 利用 prefill/decode 解除安裝與其他技術，於相同功耗下實現 5-10 倍的加速表現。