ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Castform 與 Neon 聯手:4B 開源模型以 1/100 成本複製 GPT-5.6 Sol 檢索能力

工具 1 個來源 · 20 小時前
為何重要

這代表「企業私有資料」正從被動的儲存庫轉化為主動的高效能訓練素材,大幅降低企業自建 RAG 代理的成本門檻。它證明瞭透過精細化的推遞訓練(RL post-training)可在保持低算力需求的情況下,解決「先驅模型」因頻繁呼叫所導致的高延遲與高成本痛點。對基礎設施供應商(如 Neon)而言,這也開闢了從資料庫運營延伸至 AI 訓練基建的新商業模式。

Agent 背後的檢索技術正從單次搜尋向多步驟迴圈(Agentic Retrieval)演進,導致先驅模型 GPT-5.6 Sol 單次請求需耗時長達 10 秒以上,且成本約 0.03 美元。Castform 透過推遞訓練聯手 Neon 儲存服務,證實了經最佳化的 4B 引數開源模型在特定任務上能以低於一個數量級的價格,達到與 GPT-5.6 Sol 相當的檢索準確度。

CastformNeonRL post-trainingGPT-5.6 SolLakebase SearchAgent

來源 · 1 篇報導

首發 Hacker News Front Page neon.com 02:18