安全意识超曲率视觉语言模型

本研究解决了从视觉语言模型（如CLIP）中检索不安全内容的问题。目前的消除学习技术虽然能减少不当输出，但限制了模型辨别安全和不安全内容的能力。我们提出一种新方法，利用超曲率空间的层次属性，将安全与不安全内容编码为蕴涵层次，从而增强了模型的安全意识，改进了视觉语言模型在内容审核中的适应性和可解释性。