研究分享 | ReasoningGuard守护推理链安全：免训练 + 多模通用！
内容提要
大型推理模型（LRMs）中，中间推理步骤可能包含有害信息，导致违规率是最终答案的2-3倍。新技术ReasoningGuard通过动态安全监控和路径采样，实时确保推理过程安全，无需训练，适配多种模型，保持高可用性和低开销。
关键要点
-
大型推理模型（LRMs）中，中间推理步骤可能包含有害信息，导致违规率是最终答案的2-3倍。
-
结合新型推理链攻击技术后，推理链违规率可激增至86%。
-
以往针对大语言模型（LLMs）的防御方法无法有效保护长推理链的安全性。
-
ReasoningGuard是无训练的通用动态防护框架，实时监控推理过程。
-
ReasoningGuard通过动态安全顿悟注入和可拓展路径采样来提升安全性。
-
ReasoningGuard在推理链全程安全性上表现优异，违规率接近0%。
-
在保持高可用性的同时，ReasoningGuard几乎不引入额外开销。
-
ReasoningGuard已在多款主流LRM上实现适配，支持即插即用。
延伸解读
推理链中的风险
大型推理模型在多步推理过程中，虽然最终答案可能合规，但中间步骤却可能包含有害信息，违规率高达最终答案的2-3倍。这一现象提醒我们，在使用LRMs时，不能仅关注最终结果，还需关注推理过程中的潜在风险。
ReasoningGuard的优势
ReasoningGuard作为无训练的动态防护框架，能够实时监控推理过程，确保安全性。其通过动态安全顿悟注入和可拓展路径采样，显著降低了推理链的违规率，几乎不增加额外开销，适合多种模型的应用。
传统防御方法的局限性
以往针对大语言模型的防御方法往往无法有效应对长推理链的安全问题，且大多依赖手工设计或检测，导致可用性下降。ReasoningGuard的出现为这一领域提供了新的解决方案，展现出更高的灵活性和适应性。
延伸问答
ReasoningGuard是什么？
ReasoningGuard是一个无训练的通用动态防护框架，旨在实时监控大型推理模型的推理过程，确保安全性。
大型推理模型中中间推理步骤的违规率有多高？
中间推理步骤的违规率可达最终答案的2-3倍，结合新型推理链攻击技术后，违规率可激增至86%。
ReasoningGuard如何提升推理链的安全性？
ReasoningGuard通过动态安全顿悟注入和可拓展路径采样来提升推理链的安全性。
ReasoningGuard的实施对模型性能有影响吗？
实施ReasoningGuard后，模型原始能力保持率超98.6%，几乎无损推理性能，仅增加9%的时间开销。
ReasoningGuard适配哪些模型？
ReasoningGuard已在5款主流大型推理模型上实现适配，支持即插即用。
以往的防御方法为何无法保护长推理链的安全性？
以往防御方法仅关注最终答案的安全性，无法有效应对长推理链的复杂性，导致安全性不足。
