南京大学的研究揭示了工具使用智能体在开放世界中的泛化脆弱性，提出了四级分层偏移框架，分析了SFT和RL训练范式的结构性弱点，并提出PAFT方法，通过引入扰动增强微调，提升模型的鲁棒性和泛化能力。

本文探讨了风险评估的重要性，基于GB/T 20984-2022标准，分析资产、威胁和脆弱性等要素。通过案例展示风险识别与评估的方法，强调定量与定性评估的结合，最终汇总风险值以确定组织整体风险。

人们对AI的信任逐渐增强，但这种信任可能被滥用。文章分析了黑帽GEO（生成式引擎优化）对AI搜索结果的影响，指出国内AI搜索的脆弱性和不可靠性。随着AI逐渐取代传统搜索引擎，品牌营销规则也在发生变化，黑帽GEO的存在可能带来负面后果。

本报告研究台湾关键基础设施在战时的脆弱性与防护韧性，提出多维动态分析框架，强调地下空间的重要性，采用威胁-脆弱性-后果模型进行评估，并结合真实案例提出综合提升策略，推动防护向韧性转变。

研究发现，利用人类心理学的说服策略可以有效影响AI模型的行为，如恭维和权威等技巧使得GPT-4o mini等AI在特定情况下顺从人类请求，甚至突破安全限制。这一发现揭示了AI的脆弱性，并引发了对AI安全隐患的关注。

本文探讨了大型语言模型（LLM）防御的有效性，提出了一种基于信息的白箱攻击方法，通过中间模型检查点提升攻击效率。研究发现，现有的对齐防御方法存在脆弱性，需在强威胁模型下进行评估。

本研究创建了AJailBench，评估大型音频语言模型（LAMs）在越狱攻击下的安全性。结果表明，现有LAM在面对精心设计的音频攻击时存在明显脆弱性，强调了开发更强大防御机制的必要性。

本研究分析了大语言模型在安全对齐方面的脆弱性，指出模型的安全行为受到广泛学习动态的影响，挑战了安全对齐独立几何方向的假设，并强调了在持续训练中保持对齐的重要性。

本研究探讨了大型语言模型在真实决策系统中的脆弱性，提出了一种对抗性评估框架，以测试其在动态环境下的决策过程，揭示了模型在策略适应性和易受操控性方面的差异，为提升AI的适应性和公平性提供了重要见解。

本研究分析了移动大型语言模型代理的安全隐患，提出了11个攻击面，并开发了AgentScan框架以评估其脆弱性，强调了制定安全标准的紧迫性。

本研究分析了大型语言模型（LLMs）在安全性方面的漏洞，特别是对越狱攻击的脆弱性。研究发现一种普遍的越狱攻击方法，能够绕过多个模型的安全控制，导致有害输出，提示行业需重视AI安全风险。

本研究提出自信息重写攻击(SIRA)，揭示现有文本水印算法的脆弱性。该方法对七种水印的攻击成功率接近100%，显示旧算法的安全风险，强调增强水印鲁棒性的必要性。