BriefGPT - AI 论文速递 · 2024-02-19T00:00:00Z

ArtPrompt: 基于 ASCII 艺术的针对对齐的 LLMs 的越狱攻击

📝

内容提要

本论文提出了一种基于 ASCII 艺术的越狱攻击（ArtPrompt），通过利用 LLMs 在识别 ASCII 艺术方面的性能差距来绕过安全措施并引发 LLMs 的不良行为。实验结果表明，ArtPrompt 能够有效高效地诱发所有五种 LLMs 的不良行为。

🏷️

标签

ASCII 艺术 LLMs 不良行为 安全措施 越狱攻击