研究分享 | ReasoningGuard守护推理链安全：免训练 + 多模通用！
💡
原文中文，约1200字，阅读约需3分钟。
📝
内容提要
大型推理模型（LRMs）中，中间推理步骤可能包含有害信息，导致违规率是最终答案的2-3倍。新技术ReasoningGuard通过动态安全监控和路径采样，实时确保推理过程安全，无需训练，适配多种模型，保持高可用性和低开销。
🎯
关键要点
- 大型推理模型（LRMs）中，中间推理步骤可能包含有害信息，导致违规率是最终答案的2-3倍。
- 结合新型推理链攻击技术后，推理链违规率可激增至86%。
- 以往针对大语言模型（LLMs）的防御方法无法有效保护长推理链的安全性。
- ReasoningGuard是无训练的通用动态防护框架，实时监控推理过程。
- ReasoningGuard通过动态安全顿悟注入和可拓展路径采样来提升安全性。
- ReasoningGuard在推理链全程安全性上表现优异，违规率接近0%。
- 在保持高可用性的同时，ReasoningGuard几乎不引入额外开销。
- ReasoningGuard已在多款主流LRM上实现适配，支持即插即用。
❓
延伸问答
ReasoningGuard是什么？
ReasoningGuard是一个无训练的通用动态防护框架，旨在实时监控大型推理模型的推理过程，确保安全性。
大型推理模型中中间推理步骤的违规率有多高？
中间推理步骤的违规率可达最终答案的2-3倍，结合新型推理链攻击技术后，违规率可激增至86%。
ReasoningGuard如何提升推理链的安全性？
ReasoningGuard通过动态安全顿悟注入和可拓展路径采样来提升推理链的安全性。
ReasoningGuard的实施对模型性能有影响吗？
实施ReasoningGuard后，模型原始能力保持率超98.6%，几乎无损推理性能，仅增加9%的时间开销。
ReasoningGuard适配哪些模型？
ReasoningGuard已在5款主流大型推理模型上实现适配，支持即插即用。
以往的防御方法为何无法保护长推理链的安全性？
以往防御方法仅关注最终答案的安全性，无法有效应对长推理链的复杂性，导致安全性不足。
➡️
