ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

APort Vault:利用 Open Agent Passport 審視 AI Agent 支付授權安全

研究 1 個來源 · 2 天前
為何重要

在支付與現實世界工具整合場景中,AI 安全已成為商業化的最硬門檻。此研究量化了「授權邊界」上的巨大漏洞,證實單靠大型語言模型生成邏輯不足以防禦特定的資安攻擊,必須在執行層面依賴標準化協定(如 Open Agent Passport)。 對產業來說,它提供了一個可追溯的機制來向投資人與監管機構證明 Agent 的安全性,迫使業者投入更高成本的執行層檢查,長期將擴張高安全標準類工具的市場領先者優勢。

APort Vault 是一個針對可執行工具之 AI Agent 支付授權的安全評測套件,透過重現活動資安競賽中的 4,371 種攻擊案例,模擬不同模型與政策配置在無防護與部署 Open Agent Passport (OAP) 檢查層後的防禦表現。

  • 評測規模與設計:完成了涵蓋 14 個模型(來自 8 家實驗室)與 5 種政策配置的 225,964 次評估,對比兩種播放軌道(含/不含 OAP 預先檢查)。
  • 許可權溢位問題:在 Level 4(最小許可權)的 1,293 筆提示詞中,高達 809 筆(佔 62.6%)會被全部 14 個模型觸發請求並最終成功付款,暴露出現有模型在授權邊界上的嚴重漏洞。
  • OAP 的防護效果:部署 OAP 層後,系統成功阻止了 187 次轉帳呼叫(其中 148 次是針對被禁受信者),但在側寫識別情境下,未繫結 OAP 仍存在約 0.38% 的非法轉帳風險上界。
APort VaultOpen Agent Passport (OAP)AI SecurityPaymentsBenchmarksTool-use Context

來源 · 1 篇報導

首發 Hugging Face Daily Papers huggingface.co 04:00