Jev 雖非 LLM,但遭遇同一類安全漏洞
為何重要
研究指出,僅靠輸出格式約束或結構化輸入無法構建 AI 防禦邊界,決策模型仍需「推理能力」與豐富的證據鏈來抵禦攻擊。對開發者而言,這強化了部署前「端到端系統測試」而非只測 API Schema 的必要性;對產業而言,若這類低成本、低通過門檻的模型廣泛應用於自動化業務流程,將帶來巨大的營運風險漏洞。
TypeSafe AI 發布的 Jev 模型主打直接回傳型別化決策與機率(非文字對話),開發團隊進行安全測試發現,即便輸入格式封裝了資料或透過提示指令防禦,該模型仍極易被移除風險警告訊號並誘匯出正面決策。