HarmLevelBench: 评估危害水平合规性及量化对模型对齐的影响

本研究填补了语言模型漏洞与越狱技术的空白，提出了新数据集以评估模型输出的危害性，发现量化技术影响模型的对齐性和鲁棒性，增强鲁棒性可能导致对攻击的脆弱性增加。