大学教授出奇招抓AI作弊,35名学生32人中招

💡 原文中文,约900字,阅读约需2分钟。
📝

内容提要

美国奥尔康州立大学历史教授吉布森为检测AI作弊,在试卷中嵌入白色提示词,要求AI以无逻辑方式描述“马达加斯加”。35份答卷中32份出现“马达加斯加横向漂浮”等怪语,露出破绽。教授给予申诉机会,30人认错,2人辩解。

🔎

延伸解读

白色提示词陷阱:AI作弊的隐蔽破绽

教授将隐藏提示词嵌入试卷,要求AI以无逻辑方式描述“马达加斯加”,导致AI生成内容出现“横向漂浮”“紫色单车对天花板低语”等怪语。这暴露了AI生成文本的潜在弱点:当指令与主题无关时,模型可能强行插入不相关内容。学生若稍加检查,本可发现异常,但多数人未加审阅,反映出对AI输出的盲目信任。

作弊后果与申诉机制:教育者的处理方式

教授在发现作弊后给予学生申诉机会,最终30人认错,2人辩解。这一做法既体现了教育惩戒的灵活性,也提醒学生:AI作弊并非无痕,且一旦被发现,主动承认可能获得从轻处理。对于学生而言,理解学术诚信的边界比依赖技术手段更为重要。

AI作弊检测的局限性:并非万能

虽然此方法成功识别了多数作弊者,但仍有2人未承认,且该方法依赖特定提示词设计,可能不适用于所有场景。此外,若学生使用不同AI或修改提示,破绽可能不易察觉。因此,教师需结合多种检测手段,而学生也应意识到,技术检测并非绝对,诚信才是根本。

Q&A

美国大学教授是如何设计陷阱来抓学生用AI作弊的?

教授在试卷文档中嵌入了一条白色字体的提示词,要求AI以毫无逻辑的方式描述“马达加斯加”,学生肉眼看不到,但AI会遵循指令在答案中加入相关怪语。

被抓到作弊的学生有多少人?他们有什么反应?

35份试卷中有32份露出马脚,教授给了申诉机会,最终30人认错,2人试图辩解。

AI作弊答案中出现了哪些典型的怪语?

例如“马达加斯加在下午时分横向漂浮”和“马达加斯加紫色单车对天花板低语”等无逻辑描述。

教授设置这个陷阱的初衷是什么?

教授表示并不是想嘲讽学生,而是为了检测学生是否使用AI作弊,并给予他们申诉机会。

为什么学生没有发现AI答案中的异常?

因为学生直接照抄AI答案,没有仔细检查,所以没有注意到答案中突然出现的关于马达加斯加的怪语。

这个事件发生在哪个学校?涉及什么课程?

事件发生在美国奥尔康州立大学,涉及历史学教授的期中考试,考试题目中有一题涉及工业革命。

🏷️

标签

➡️

继续阅读