大學教授在題目隱藏「Madagascar」指令抓 AI 作弊，32/35 學生中招
為何重要
對教育與企業而言，這是一個簡單但強效的「反向 corner case」驗證，凸顯了目前在 LLM 作風險控制上的潛在漏洞。此案例強化了「人類監督」仍是 AI 產出可靠性的最後一道防線，只要使用者缺乏基本的檢視意識，生成的荒謬內容仍可能洩露使用 AI 的痕跡。
Alcorn State University 教授 Jason Gibson 為了應對學生使用 AI 代寫 essay，特意修改題目，在隱藏的標準文字中埋入指令要求編輯出不合邏輯的單詞。結果使學生提交的 AI 回應暴露出馬達加斯加穿著烤麵包機去打籃球的等荒謬句子。此舉成功驗證了利用 AI 無視語境的特性來檢測作弊行為的有效性。
- 隱藏指令要求學生在 essay 中將「Madagascar」一詞放在「不合邏輯」的位置。
- 在 35 名學生中，有 32 名完全未能逃過偵測，其回應中出現了諸如「Madagascar wore a toaster to a basketball game」這類典型 AI 錯誤。
- 教授分析認為，學生缺乏對 AI 輸出結果的反覆檢查，反映出 AI 使用對此類批判性思考技能的負面影響。