减轻大语言模型的后门威胁：进展与挑战
原文中文，约400字，阅读约需1分钟。发表于：。本研究旨在解决大语言模型（LLMs）面临的后门攻击问题，这些攻击因模型规模扩大而愈发严重。论文提出了一种全面的调查，涵盖了LLMs在发展和推理过程中出现的后门威胁，以及最新的防御与检测策略。研究的主要发现是，尽管已有进展，但在应对这些威胁方面仍面临许多挑战，需进一步研究。
研究发现，通过在指令调整数据中加入恶意行为，可以影响多语言LLM中未被攻击语言的输出。在mT5、BLOOM和GPT-3.5-turbo等模型中，攻击成功率超过95%。较大模型如Llama2更易受攻击，触发器在25种语言中有效，成功率达50%。研究强调多语言LLM的安全漏洞及采取安全措施的必要性。
