GrounDial: 基于人类规范的安全对话响应生成
内容提要
该文综述对话AI安全研究，涵盖利用检索框架减少聊天机器人偏见与风险、借助Reddit数据提升开放域对话、构建中文社交语料SocialDial，以及提出CGRG、DialGuide、DIALGEN等框架，通过微调与社交感知损失生成亲社会回复；在心理健康支持中，微调模型优于ChatGPT，人机共性仍需进一步研究。
延伸解读
安全对话生成的技术路径
文章梳理了多种提升对话安全性的技术路径：基于检索的框架通过上下文学习生成更安全的回复；CGRG利用词汇控制短语增强语义控制；DialGuide使用自然语言规则控制模型行为；双步骤微调结合社交感知损失集成亲社会行为。这些方法从不同角度减少偏见和风险，但均需依赖外部数据或规则，实际部署时需权衡效果与成本。
中文社交对话资源的构建
针对中文社交对话，文章介绍了SocialDial语料库，使用ChatGPT生成4,870段数据，并评估了BERT和RoBERTa等预训练模型。这填补了中文社交感知对话资源的空白，但数据由AI生成，可能缺乏真实人际互动的多样性，后续研究需验证其泛化能力。
心理健康支持中的模型表现
在心理健康支持对话中，研究比较了BERT-base、RoBERTa-large和ChatGPT等模型。结果显示，ChatGPT在零样本和少样本范式中无法检测具有详细定义的安全类别，而经过微调的模型更适用。这表明通用大模型在专业安全场景下存在局限，微调仍是提升安全检测的有效手段。
人机交互中的共性挑战
文章指出，现有大型语言模型在构建共性时假设存在共同基础，而无需使用对话行为，因此人机交互中的共性问题需进一步研究。这提示当前模型可能缺乏对对话动态的深层理解，未来需探索如何让模型更好地适应人类对话中的共享知识与意图。
Q&A
有哪些方法可以减少聊天机器人中的安全问题和偏见？
文章提到使用基于检索的框架，通过上下文学习生成更安全的回复，并演示了使用检索相似对话框架的安全模型回答，达到了相对理想的结果。
如何利用Reddit数据提升开放域对话系统的能力？
通过模仿社交媒体上的非正式互动，利用Reddit上的过滤评论数据作为seq2seq生成器的额外上下文，以提高开放域对话系统的能力。
SocialDial是什么？它有什么特点？
SocialDial是第一个基于中国社会文化的社交感知对话语料库，使用ChatGPT生成了4,870段数据，并评估了使用BERT和RoBERTa等预训练模型的数据集。
CGRG框架是如何提高对话生成的事实准确性和信息量的？
CGRG框架利用词汇控制短语来提高语义控制能力，有效避免了事实准确性和信息量之间的矛盾，并超越了强大的生成基准线。
DialGuide框架如何控制对话模型的行为？
DialGuide使用自然语言规则控制对话模型行为，在安全对话领域有效，可以产生遵循开发人员准则的安全和有趣回应。
在心理健康支持对话中，微调模型和ChatGPT在检测不安全回应方面表现如何？
ChatGPT在零样本和少样本范式中无法检测具有详细定义的安全类别，而经过微调的模型更加适用，为心理健康支持对话的对话安全研究提供了有价值的基准。
