BriefGPT - AI 论文速递
·
COLD-Attack: 使用隐秘性与可控性越狱线性语言模型
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
该研究聚焦于多模态大型语言模型（MLLMs）的越狱攻击，提出了一种基于最大似然的算法，可以寻找“图像越狱提示”（imgJP），在多个未知提示和图像上实现对 MLLMs 的越狱。此外，揭示了 MLLM 越狱和 LLM 越狱之间的联系，并引入了一种基于构造的方法，将该方法应用于 LLM 越狱，比当前最先进的方法更高效。
🎯
关键要点
-
该研究聚焦于多模态大型语言模型（MLLMs）的越狱攻击。
-
提出了一种基于最大似然的算法，寻找“图像越狱提示”（imgJP）。
-
该算法可以在多个未知提示和图像上实现对 MLLMs 的越狱。
-
方法具有强大的模型可迁移性，生成的 imgJP 可转移到多种模型中。
-
揭示了 MLLM 越狱和 LLM 越狱之间的联系。
-
引入了一种基于构造的方法，应用于 LLM 越狱，比当前最先进的方法更高效。
-
警告：一些由语言模型生成的内容可能对某些读者具有冒犯性。
➡️
