Anthropic 公佈報告，稱今年阻止多起涉及生物武器研究的潛在陰謀
為何重要
Anthropic 強化了大型語言模型在面對國安級風險時的應用邊界討論。這件事證明頂級模型的推理與生物資訊合成能力已足以構成威脅，推動業者必須更大幅度地深化防禦機制與風險監控。對監管單位而言，這是佐證高風險模型需受嚴格審查或分類管理的務實案例。
Anthropic（安致博）近日發布報告指出，今年曾阻擋多位科學家利用其模型進行研究，這些研究在 Anthropic 看來具有開發「生物武器」的潛在風險。公司表示，由於無法判定研究動機是否為正當科學探索或惡意陰謀，最終決定主動關閉相關作業。
- An 以公司發布了一份針對此事件的「新報告」為依據。
- 公司指出發生了「幾起潛在的陰謀」，皆涉及科學家使用其模型觸及生物危害研究。
- 終止作業的關鍵原因是「無法確定研究目的屬於正當的」還是惡意的。