论文审计33,000条工具调用agent轨迹发现:低注入攻击成功率并不等于防御成功。基准判为“攻击失败”的轨迹中,76%至80%只是agent忽略了注入内容,真正安全拒绝仅约18%。仅改system prompt,同一权重ASR可在0.2%与43%间摆动;部分agent识别出注入仍照做。ASR把忽略、拒绝、识别后失守混为一谈,系统性高估防御能力。
综述探讨了提升大型语言模型多步推理能力的策略,包括串联微调、思维链、Faithful CoT框架和分步证明生成,这些方法能改善多步逻辑推导与科学问答性能,增强推理可靠性与可解释性。小模型常因难以启动推理而失败,引入大模型指导可显著改善。编码推理可能生成人类无法理解的文本,需进行防御评估。
完成下面两步后,将自动完成登录并继续当前操作。