ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Hugging Face 發布 LFM2.5-2.6B,主打低預算裝置端 Agent 部署

模型 1 個來源 · 2 天前
為何重要

LFM2.5-2.6B 的出現展現了 Edge AI 市場的高效能潛力,擴大了「離線執行」與「隱私優先」的應用範疇,減少了 Cloud Inference 成本,讓企業與開發者能更低成本地在裝置上構建、擴散複雜的 Agent 應用。對於投資人而言,此產品意味著端側運算與起飛中 Agent 技術的結合,反映了市場對「輕量高效」模型日益增長且需客製化的需求,值得持續追蹤相關硬體整合與生態圈發展。

Hugging Face 發布名為 LFM2.5-2.6B 的輕量模型,專為讓開發者可在筆電或行動裝置等 Edge Device 上直接執行全功能 Agent 而設計。其訓練資料來自約 34T Tokens,經過四階段 Agentic RL 微調,具備工具呼叫與多步驟工作流程能力;在硬體效率上,該模型記憶體佔用低於 2.5GB,在 Apple M5 Max 及 Ryzen CPU 上的 decoding 速度分別可達 220 條與 113 條 tokens/s,效能相當於約 4 倍規模的較大型模型。

Hugging FaceLFM2.5Local AgentsEdge AIAgentic RL

來源 · 1 篇報導

首發 Hugging Face Blog huggingface.co 21:58