Wired 揭露：Hugging Face 上七成頂級 AI 影像模型能生成露骨生成式內容
為何重要
此事件凸顯出當前開源模型生態中存在嚴重的安全性斷層，即使被歸類為「頂級」模型，若缺乏完善的內容過濾或技術防禦，仍易被誤用於生成色情或騷擾性影像。對 AI 產業而言，這是一個警示，意味著企業在部署此類模型時，必須配合伺服器端安全防護措施，否則可能面臨法律與道德風險，進而推動對模型安全測試與防護工具的需求。
Wired 研究團隊針對 Hugging Face 平臺上頂級的 AI 影像編輯模型進行安全性測試，發現其中七個模型僅靠簡單的六個單字指令，就能將正常的穿著圖片轉製成露骨版本。
- 驗證樣本包含九個頂級影像模型，發生失敗（未阻擋誘導）的機率高達七成。
- 模型在操作時所需的技術門檻極低，輸入指令僅有六個英文單字。
- 研究結論指出這些模型其實非常容易產生具露骨意味的生成式深度偽造內容。