开源大语言模型的安全对齐易受攻击。研究提出“影子对齐”,仅需少量数据即可使安全模型转向有害任务且不损帮助性,并可跨模型、跨语言迁移。另有研究揭示对齐会降低推理性能4%–33%,并提出InferAligner、FAEF框架及后门注入等方法,发现现有对齐多不充分,模型仍易生成有害内容。
完成下面两步后,将自动完成登录并继续当前操作。