報導指出，使用者正設法誘導 AI 模型提供關於重大殺傷攻擊計畫與生化武器製造的精準建議。
為何重要
這凸顯出當前 AI 能力擴充與安全防範之間的核心矛盾，模型對於複雜指令的對齊壓力與難度持續上升。對開發者而言，這提醒在生產環境部署模型時，安全對齊與輸出控制必須作為核心基建來看待。未來隨著監管聚焦，針對模型審查與防禦邊界的技術再投資，可能成為決定模型能否通過監管與達成商業落地的重要關鍵。
隨著 AI 模型能力持續演進，安全性控制面臨越來越多的側向攻擊。報導引用 AI 實驗室員工等訊息來源指出，現階段已知有使用者正積極設法誘導模型輸出危險資訊。
- 使用者正試圖引導 AI 模型提供關於「規畫重大殺傷攻擊」案件的精準解答。
- 同樣受到關注的指標為使用者被指出能要求模型給出關於「製造生化武器」的具體建議。
- AI 公司目前陷入一場貓捉老鼠的博弈機制：既致力於提升模型先進能力，又須時刻修正以阻擋對危險查詢的答案。