本研究探讨了大语言模型的拒绝机制,揭示其复杂性与多样性。提出基于梯度的表征工程方法,识别多个独立拒绝方向和多维概念锥,为理解大语言模型的运作提供新基础。
通过表征工程可实现大模型的人类偏好对齐并精准控制行为。研究发现,对齐会使指令模型推理性能下降4%至33%,暴露其固有局限;对抗攻击下模型仍脆弱,仅靠对齐不足,需结合多模态概念。世界表示与人类相似度呈U形关系,高相似模型更鲁棒。开源模型易被引导生成有害内容,需加强缓解策略。
完成下面两步后,将自动完成登录并继续当前操作。