一种生成性方法检测大型语言模型有害性，特别关注红旗标记令牌
📝
内容提要
本研究解决了当前大型语言模型（LLMs）安全培训方法在处理有害请求时输出分布剧烈变化的问题。提出了一种创新的安全培训方法，通过引入红旗标记令牌(
🏷️
➡️
