本研究提出了一种名为奖励中和的防御框架，旨在解决强化学习微调对大型语言模型安全性造成的漏洞。该框架通过拒绝模式有效阻止恶意奖励信号的影响，实验结果表明模型在攻击后有害得分保持较低，为开源模型的安全提供了新思路。

本研究提出了CurvaLID防御框架，旨在解决大型语言模型在安全部署中面临的对抗性提示挑战。该框架通过几何特性高效检测对抗性提示，揭示其与良性提示的区别，展现出优越的检测和拒绝能力。

本研究探讨了大型语言模型（LLMs）面临的越狱攻击及其破解方法，分析了提示结构的重要性和防御不足。通过实证研究，提出了多种破解策略和防御框架，成功率高达96.2%。研究强调了评估破解方法的必要性，为未来的安全性提升提供了指导。

本研究提出了一种基于大型语言模型的动态真实软件蜜罐方法，称为shelLM，准确率达到0.92。探讨了大型语言模型在网络安全中的应用，包括威胁推理、漏洞检测和恶意软件分析，强调数据集的重要性及未来研究方向。同时分析了Prompt Hacking和对抗攻击的安全挑战，并提出了防御框架。HoneyGPT作为新一代智能蜜罐，增强了互动性和欺骗性，更有效地吸引攻击者。

本文探讨图神经网络（GNN）在敌对攻击下的脆弱性，并提出了Pro-GNN和ELR-GNN等防御框架，以提高GNN的鲁棒性。研究表明，通过优化图结构和结合特征平滑性等方法，可以显著增强GNN的防御能力，实验结果显示这些新方法在多种攻击场景中表现优异。

本文提出了一种对抗性后缀嵌入翻译框架（ASETF），能够将不可读的对抗性后缀转化为流畅文本，从而提升攻击成功率。同时，研究开发了多种安全评估和防御框架，如Adversarial Prompt Shield（APS）和ASSERT，旨在增强大型语言模型的安全性和鲁棒性，确保其在复杂环境中的可靠性。

本文提出了两种针对三维点云的后门攻击方法：有毒标签和干净标签后门攻击，成功率分别为95%和50%。同时，介绍了MirrorAttack和PointCert等防御框架，提升了模型的鲁棒性，并验证了其在对抗攻击中的有效性。

本文提出了一种新型对抗背景攻击的防御框架，利用攻击者隐藏后门模式的能力，学习更强大的模式以抵抗攻击。通过对抗遗忘机制，深度神经网络在多种数据集上表现优异。此外，研究了记忆型持续学习算法的对抗鲁棒性，提出新方法以提高准确性，实验结果显示该方法在多种威胁模型下表现出色。

大型语言模型（LLM）存在提示注入攻击的安全漏洞。研究提出了理解和防御这些攻击的框架，并通过实验评估了不同模型的脆弱性。新方法DeceptPrompt和DrAttack在诱导攻击和成功率方面表现出有效性，强调了加强防御的重要性。

本研究提出了ProAttack方法，通过提示实现干净标签的后门攻击，增强了隐蔽性。同时，探讨了提示注入攻击对大型语言模型的影响，提出了防御框架，并评估了多种模型的脆弱性。

本文指出大型语言模型在LLM集成应用中存在安全漏洞，容易受到提示注入攻击。作者提出了一般性的框架来理解和设计这种攻击，并提出了对应的防御框架。作者还对10个LLM和7个任务进行了系统评估。