ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Kev:基於 Qwen3.5 的小型決策模型家族

模型 1 個來源 · 2 天前
為何重要

此模型發布讓『決策推理』這一高強度任務能下沉到邊緣裝置與本地端,降低企業部署需依賴中心化 LLM 的風險。對開發者而言,其 Row-based 或 Masked Attention 的處理策略證明瞭在不使用分離式模型的前提下,保持複雜上下文結構與邏輯獨立性的可行性,具備極高的參考價值。

  • Kev 是一個受 Jev's Architecture 啟發、基於 Qwen3.5 架構的輕量級決策模型家族,主打能在本地裝置上執行 Yes/No、多選與評分任務。
  • 推出 0.8B、4B 與 9B 三種規格,支援 CUDA 與 Apple Silicon,其中 9B/4B 模型可在 32 GB Mac 上的 bf16 精度下執行;針對 Apple Silicon 的 DeltaNet 層進行了效能最佳化(如 M5 上 230-token 輸入處理約數十毫秒)。
  • 採用 TypeSafe System One API 介面,透過特定 Attention Mask 或將問題視為獨立 Row 來確保問題間的隔離性(不互相閱讀),並採用 LoRA 附掛頭(rank 16)進行高效微調。
QwenJevDecision ModelsKevLoRAApple Silicon

來源 · 1 篇報導

首發 Hacker News Front Page github.com 15:11