评估大型语言模型安全性的因果分析

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

本文研究了对大型语言模型(LLMs)的编码任务的对抗性扰动的影响,并提出了基于提示的防御措施。实验证明,对抗性示例具有可转移性,削弱了LLMs的性能。提出的防御措施显示出改善模型韧性的潜力。

🏷️

标签

➡️

继续阅读