网络安全公司Tenable发现七种新型数据窃取手法，攻击者利用ChatGPT的默认功能进行间接提示注入，诱使其泄露用户隐私。研究表明，ChatGPT的长期记忆和搜索能力存在漏洞，攻击者可通过恶意网站和对话注入实现数据窃取。尽管部分问题已修复，GPT-5仍存在相关风险。

研究人员攻破了OpenAI的Guardrails安全护栏，利用提示注入方法绕过安全检测，生成危险内容。攻击者能够同时操控生成模型和安全评估模型，导致系统漏洞。专家警告，依赖模型评估可能造成虚假安全感，建议采用独立验证和持续对抗测试以增强防御。

OpenAI的新浏览器引发安全隐患，CISO指出“提示注入”问题尚未解决，攻击者可通过普通文本指令进行攻击，AI浏览器可能成为新的安全漏洞，需引起重视。

OpenAI推出的Guardrails安全框架旨在提升AI安全性，但研究显示其存在漏洞，攻击者可通过提示注入绕过安全检测，生成有害内容。这一发现突显了保护AI系统的挑战，专家建议采用独立验证和红队测试以增强防御。

GitHub Copilot Chat存在CVSS评分9.6的高危漏洞，攻击者可利用新型提示注入技术窃取私有仓库的源代码和敏感信息。该漏洞已修复，GitHub禁用了相关图片渲染功能以防止攻击。

网络安全公司Legit Security发现，攻击者可通过拉取请求中的隐藏注释诱使GitHub Copilot泄露私有代码仓库的敏感数据。研究人员Omer Mayraz报告后，GitHub禁用了Copilot Chat中的图像渲染功能以修复该漏洞。此攻击利用了提示注入和CSP绕过技术，揭示了AI工具接入外部工具时的安全风险。

网络安全研究人员揭示了一种名为PromptFix的提示注入技术，该技术通过虚假验证码诱导生成式AI模型执行恶意操作。这种攻击手法利用社交工程，可能导致用户在不知情的情况下泄露敏感信息或进行购物。研究指出，AI系统需要建立主动防御机制，以应对日益复杂的网络诈骗。

开源标准模型上下文协议（MCP）允许AI系统与多种数据源交互，但存在安全风险。文章列出十大关键漏洞，如跨租户数据泄露、隐蔽提示注入和工具投毒，并建议企业采取防范措施以保护敏感数据。

微软推出了一套防御策略，针对大型语言模型的间接提示注入攻击。该策略结合预防、检测和影响缓解措施，采用聚光技术区分合法与恶意指令，并部署提示防护盾系统进行监测。通过细粒度数据治理和用户授权机制，微软提升了AI安全性，保持行业领先。

Trendyol安全团队发现Meta的Llama防火墙在提示注入攻击中失效，暴露大语言模型的安全隐患。测试显示其依赖英语关键词，无法识别语言变体，导致恶意指令绕过。CODE_SHIELD模块未能标记不安全代码，增加生产风险。研究呼吁在LLM集成前进行严格测试，以防数据泄露和系统入侵。

一项研究指出，主流云端大语言模型平台存在严重安全漏洞，内容过滤和提示注入防御效果差异明显。复杂攻击手段层出不穷，平台需在安全与用户体验之间找到平衡。研究显示，角色扮演攻击能够绕过过滤系统，表明当前防护过于依赖关键词检测，需加强深度意图分析。