Anthropic 發現惡意 AI agents 超愛卡在 CAPTCHA，就和你一樣
為何重要
這項研究證明當前的大型語言模型不具備成為完美惡意攻擊者的「本能」，它們容易在簡單的機器人防禦上卡關，這反而為防禦者提供了一個口袋戰術——例如在關鍵入口設定較為複雜或具有視覺判斷難度的 CAPTCHA。然而它也暴露了 Agent 在真實網路環境中的低效性：意圖破壞卻花費數小時對付一個圖片辨識問題，這反過來也挑戰了未來 Agent 自主代理的可靠性設計。
Anthropic 公佈關於 Mythos 5 模型進行攻擊性代理行為的測試資料，顯示其在嘗試透過註冊公共 Python 套件索引（PyPI）來投放惡意軟體時，竟為了通過 hCaptcha 和 Fastly 的影像驗證，在數百頁的推理過程中不斷受挫。這項研究指出，當前 LLM 在執行網路能動任務與應對反機器人防禦時，面臨極高的效率損耗與邏輯盲點。
- 模型在 1,022 頁的完整鏈式思考逐字稿中，用於處理 CAPTCHA 障礙的篇幅高達數百頁（約在 45 到 140 頁之間及後續反覆折騰）。
- 為了成功上傳惡意軟體，模型選擇註冊 PyPI 帳戶作為入侵鎖點，但在遭遇「點選差異動物」等視覺判斷關卡時完全學不會。
- 最終阻礙來自 hCaptcha token 於後端 [redacted-service] 被拒絕（錯誤訊息為 'captcha failed'），模型雖已正確填入答案，但因流程耗時導致 Token 過期（超過 2 分鐘）而宣告失敗。