本研究提出了CachePrune防御机制，以应对大型语言模型在间接提示注入攻击中的脆弱性。该方法通过识别和修剪任务触发神经元，显著降低攻击成功率，同时保持响应质量，为构建更安全的人工智能系统提供支持。

该研究提出了一种新颖的博弈论方法DataSentinel，有效解决了提示注入攻击检测的局限性，能够识别现有及自适应攻击，展示了其防护潜力。

本研究提出了CaMeL防御机制，旨在解决大型语言模型在处理不可信数据时的提示注入攻击问题。CaMeL在AgentDojo平台上成功完成67%的任务，显示出其有效性和安全性。

本研究提出鲁棒工具代理系统（RTBAS），旨在解决现有工具代理系统在使用外部工具时面临的提示注入攻击和隐私泄露问题。RTBAS通过自动检测和执行工具调用，确保信息的完整性和机密性。实验结果表明，该系统有效防止攻击，任务效用仅损失2%。

本研究探讨了提示注入攻击引发的大语言模型防御过度问题，提出了评估数据集NotInject和新防护模型InjecGuard，显著降低了触发词偏见，表现优异。

本研究提出了一种新颖的自然语言处理方法，通过分层输入筛选提高大语言模型对提示注入攻击的检测准确性，尽管假阳性率上升，但有效降低了漏报风险。

本文研究了大型语言模型在上下文学习中的脆弱性，尤其是在认知负荷过重时容易受到攻击。研究提出了一种新的提示注入攻击方法，成功率高达99.99%，显示现有安全机制不足，需开发更稳健的保护措施。

本文研究了提示注入攻击对大语言模型翻译的影响，开发了测试工具以增强防御。研究扩展了攻击方法，涵盖WMT 2024所有语言对，并引入新攻击格式，展示了多样性和潜在威胁。

现有视觉语言人工智能模型在医学任务中存在严重漏洞，易受提示注入攻击。研究表明，微弱提示可导致模型输出有害信息，且人类观察者难以察觉。为此，提出了虚拟提示注入技术（VPI）及其他防御机制，以提高模型安全性，强调在临床应用前需解决这些安全隐患。

大型语言模型（LLM）存在提示注入攻击的安全漏洞。研究提出了理解和防御这些攻击的框架，并通过实验评估了不同模型的脆弱性。新方法DeceptPrompt和DrAttack在诱导攻击和成功率方面表现出有效性，强调了加强防御的重要性。

本研究提出了ProAttack方法，通过提示实现干净标签的后门攻击，增强了隐蔽性。同时，探讨了提示注入攻击对大型语言模型的影响，提出了防御框架，并评估了多种模型的脆弱性。

本文探讨了大型语言模型（LLMs）面临的提示注入攻击及其防御方法。研究表明，能力更强的模型更易受到攻击。提出了基于提示学习的黑盒和对抗训练的白盒防御方法，后者能有效降低攻击成功率。强调在设计和部署LLMs时需加强安全框架，以防止潜在的安全隐患。