网络安全研究人员发现机器学习软件供应链存在安全风险，可能被利用来针对MLOps平台。漏洞包括固有和实现方面的缺陷，可能导致严重后果。需要加强安全措施。

我们使用新的视觉提示攻击方法成功攻击了开源的大型多模型模型，即使采用了安全对齐的大型语言模型，我们的方法也能轻松攻击。我们评估了12种先进的多模型模型在13种情景中的弱点，发现了其脆弱性，加强了我们对加强安全措施的需求。