量子位
·
Prompt自相矛盾，大模型能发现吗？上海交通大学最新研究解密
💡
原文中文，约2600字，阅读约需7分钟。
📝
内容提要
上海交通大学的研究团队提出了一个多模态基准测试，用于评估大模型检测冲突指令的能力。研究人员发现当前的大模型在处理自相矛盾的指令时存在不足，缺乏自我意识和认知能力。为了提高矛盾检测能力，研究人员提出了一种插入式提示方法，可以从外部世界注入认知能力。这项研究将在欧洲计算机视觉大会上发表。
🎯
关键要点
- 上海交通大学研究团队提出多模态基准测试，用于评估大模型检测冲突指令的能力。
- 研究发现当前大模型在处理自相矛盾指令时存在不足，缺乏自我意识和认知能力。
- 提出认知唤醒提示方法（CAP），通过外部注入认知能力提高矛盾检测能力。
- 研究将在第18届欧洲计算机视觉大会上发表。
- 多模态大模型在科研和应用领域取得进展，但在处理自相矛盾指令时表现欠佳。
- 自相矛盾指令集（SCI）包含2万个冲突指令和8个任务，评估多模态大模型的能力。
- AutoCreate框架用于自动化数据集创建，提高SCI数据集构建速度和内容广度。
- 实验表明大模型缺乏对指令合理性的评估能力，需增强自我意识和认知能力。
➡️
