攻击者可以伪装恶意指令为URL，欺骗OpenAI Atlas浏览器执行不可信命令，研究人员警告该浏览器无法区分可信与不可信输入，存在安全隐患。

OpenAI的ChatGPT Atlas浏览器存在严重安全漏洞，攻击者可通过伪造URL注入恶意指令，绕过安全检查，导致用户数据被窃取或遭受钓鱼攻击。该漏洞源于地址栏的模糊解析机制，使恶意指令获得高权限。OpenAI已承认风险并采取防护措施，但专家警告此类攻击可能演变为广泛威胁。

本文探讨了AI代理在区块链金融生态系统中的安全风险，特别是其脆弱性。研究指出，恶意指令通过上下文操控攻击可导致资产转移和协议违规，强调了开发安全、负责任的AI代理的重要性。

网络安全研究人员揭示了一种名为“规则文件后门”的新型供应链攻击，影响AI代码编辑器如GitHub Copilot。攻击者通过在配置文件中注入恶意指令，操控AI生成有漏洞的代码，带来安全风险。这种攻击可悄然传播，影响开发者和最终用户，提醒我们需加强对AI工具的安全审查。

研究人员引入了组合指令攻击（CIA）技术，通过将恶意提示隐藏在无害意图的指令中，成功率达到95%+。这项研究揭示了语言模型对组合指令攻击的脆弱性，对语言模型的安全性发展具有重要意义。

大型语言模型的开源加速应用开发、创新和科学进步，但对于基础语言模型的固有指令限制是否可以防止滥用的普遍假设存在关键的疏忽。我们的研究通过演示表明，基础语言模型能够有效地解释和执行恶意指令，此漏洞无需特殊知识或训练即可被操纵，强调了对基础语言模型安全协议的紧急关注的重大风险。