OpenAI 即將奪走 Jev 的午餐？技術能否建立防護護城河
為何重要
這顯示了基礎模型大廠擁有「內隱技術」能力，能迅速消化垂直領域的應用創新。對開發者而言，這意味著單靠架構最佳化或 Prompt 技巧的創新可能難以對抗 GPT 系列，未來的競爭焦點可能轉向獨特的資料校準或訓練策略。 對投資人來說，這傳達了「護城河」重新定義的訊號——從模型架構轉向資料工程與評估標準，值得關注在資料合成與價值評估領域的潛力公司。
TypeSafe 推出的 Jev 模型透過將大型語言模型（LLM）轉變為通用分類器，利用 Prompt Engineering 或預測 Token 機率的技巧，在短時間內被 Vercel 採用。儘管技術亮眼，但原作者擔憂 OpenAI 早已在內部透過 ChatML 工具呼叫等機制部署了類似的隱形分類器，實力足以快速跟進。
- Jev 透過觀察特定 Token（如 true/false 或選項 A-D）的機率分佈來回答問題，而非依賴完整的自然語言生成，據 Vercel 表示其被採用的速度快於 AI Gateway 歷史上的任何其他模型。
- OpenAI 早在 GPT-4 工具呼叫機制中便使用了隱形分類器（例如機器預測
<|im_start|>後的第一個 token 來決定是否呼叫函式），這使得 OpenAI 具備了複製 Jev 分類邏輯並內建於其現有模型與 Agent 的能力。 - 根據 TypeSafe 共同創辦人說法，防禦核心在於「訓練資料與處理過程」，需建立包含已知結果的龐大數據集與 RL（強化學習）過程，將原始資料轉化為能教導模型跨領域正確歸類的「校準」資料。