量子位
·
Prompt自相矛盾，大模型能发现吗？上海交通大学最新研究解密
原文中文，约2600字，阅读约需7分钟。
📝
内容提要
上海交通大学的研究团队提出了一个多模态基准测试，用于评估大模型检测冲突指令的能力。研究人员发现当前的大模型在处理自相矛盾的指令时存在不足，缺乏自我意识和认知能力。为了提高矛盾检测能力，研究人员提出了一种插入式提示方法，可以从外部世界注入认知能力。这项研究将在欧洲计算机视觉大会上发表。
🎯
关键要点
-
上海交通大学研究团队提出多模态基准测试，用于评估大模型检测冲突指令的能力。
-
研究发现当前大模型在处理自相矛盾指令时存在不足，缺乏自我意识和认知能力。
-
提出认知唤醒提示方法（CAP），通过外部注入认知能力提高矛盾检测能力。
-
研究将在第18届欧洲计算机视觉大会上发表。
-
多模态大模型在科研和应用领域取得进展，但在处理自相矛盾指令时表现欠佳。
-
自相矛盾指令集（SCI）包含2万个冲突指令和8个任务，评估多模态大模型的能力。
-
AutoCreate框架用于自动化数据集创建，提高SCI数据集构建速度和内容广度。
-
实验表明大模型缺乏对指令合理性的评估能力，需增强自我意识和认知能力。
❓
延伸问答
上海交通大学的研究主要关注什么问题？
研究主要关注大模型检测自相矛盾指令的能力。
研究团队提出了什么方法来提高矛盾检测能力？
研究团队提出了认知唤醒提示方法（CAP），通过外部注入认知能力来提高矛盾检测能力。
自相矛盾指令集（SCI）包含哪些内容？
SCI包含2万个冲突指令和8个任务，涵盖语言-语言和视觉-语言两种范式。
当前大模型在处理自相矛盾指令时存在哪些不足？
当前大模型缺乏自我意识和对指令合理性的评估能力，导致在处理自相矛盾指令时表现欠佳。
AutoCreate框架的作用是什么？
AutoCreate框架用于自动化数据集创建，提高自相矛盾指令集的构建速度和内容广度。
这项研究将在何时何地发表？
这项研究将在2023年10月的第18届欧洲计算机视觉大会上发表。
🏷️
