Kev:基於 Qwen3.5 的小型決策模型家族
為何重要
此模型發布讓『決策推理』這一高強度任務能下沉到邊緣裝置與本地端,降低企業部署需依賴中心化 LLM 的風險。對開發者而言,其 Row-based 或 Masked Attention 的處理策略證明瞭在不使用分離式模型的前提下,保持複雜上下文結構與邏輯獨立性的可行性,具備極高的參考價值。
- Kev 是一個受 Jev's Architecture 啟發、基於 Qwen3.5 架構的輕量級決策模型家族,主打能在本地裝置上執行 Yes/No、多選與評分任務。
- 推出 0.8B、4B 與 9B 三種規格,支援 CUDA 與 Apple Silicon,其中 9B/4B 模型可在 32 GB Mac 上的 bf16 精度下執行;針對 Apple Silicon 的 DeltaNet 層進行了效能最佳化(如 M5 上 230-token 輸入處理約數十毫秒)。
- 採用 TypeSafe System One API 介面,透過特定 Attention Mask 或將問題視為獨立 Row 來確保問題間的隔離性(不互相閱讀),並採用 LoRA 附掛頭(rank 16)進行高效微調。