揭示大型语言模型的安全漏洞

本文介绍了AttaQ数据集，评估了模型的脆弱性，并使用聚类技术自动识别和命名脆弱的语义区域，以增强对模型弱点的评估。