傑森·吉布森教授運用隱形提示誘捕 32 名作弊學生
為何重要
此案例凸顯大型語言模型風險評估中的「負面約束測試」重要性，即模型容易因不當指令生成不預期內容的敏感度。對開發者而言，這是提示工程中關於「防止意外連結與邏輯崩壞」的實務反面教材，顯示單純依賴常規技術問答難防備特殊情境下的誤用。對教育科技產業而言，除了即時監控，如何利用提示注入技術作為教材設計的一部分，成為新興的防作弊思考方向。
為應對學生濫用 ChatGPT 作弊的教學現場，奧爾科恩州立大學歷史教授傑森·吉布森在期中考題目中嵌入隱形白色 font 指令，要求生成內容提及馬達加斯加，成功抓出學生未長眼複製 AI 輸出。結果顯示兩班共 35 名學生中有 32 人作弊，導致全數在該考試部分不及格。
- 教授在題目中嵌入僅能被 AI 顯示的白色 font 指令，令模型在撰寫工業革命相關文章時夾帶毫無關聯的馬達加斯加描述，作為檢測是否產生特定內容的依據，結果發現內文中出現「馬達加斯加在下午側向漂浮」等語無倫次的句子。
- 作弊率極高，教授表示 32/35 名作弊學生（約 91.4%）幾乎未檢視 AI 回應就直接複製送出；在面臨質疑時，僅有兩人嘗試爭取改分。
- 質量檢測失效案例雲集，布朗大學教授在僅一個月前即發現，允許提交作業期間，86 名學生中有 84 人使用 AI，使平均分數飆升至 96%。