可解释的基于 Transformer 的网络钓鱼邮件检测模型：一种大型语言模型方法
内容提要
本文综述大语言模型在网络钓鱼与垃圾邮件检测中的应用。LLM既能生成逼真钓鱼邮件、逃避过滤器，也带来安全与伦理风险。为此，学者提出基于BERT的IPSDM、SecurityLLM、AntiPhishStack等检测模型，结合机器学习与深度学习，准确率达94%至98.96%，为信息系统安全防护提供新思路。
延伸解读
LLM 的双刃剑效应
文章指出，大型语言模型既能生成逼真的钓鱼邮件，也能用于检测。一方面，LLM 生成的钓鱼邮件容易逃避过滤器且成功率高，带来安全和伦理风险；另一方面，基于 BERT 的 IPSDM 等模型利用 LLM 提升了检测效果。这种双重用途意味着防御方需要同时关注攻击技术的演进和检测技术的创新。
检测性能与模型多样性
综述中提到的多个模型展示了较高的准确率：IPSDM 的 F1 分数为 98.96%，SecurityLLM 识别 14 种攻击的准确率达 98%，AntiPhishStack 在两个基准数据集上准确率为 96.04%。这些模型结合了机器学习和深度学习技术，如 BERT、MLP、LSTM 等，表明多种技术路线均可有效检测钓鱼威胁。
治理与防御并重
针对 LLM 被滥用于网络钓鱼，文章提到了两种解决方案：应用程序接口等结构化访问方案和基于大规模语言模型的防御系统。同时，研究强调了治理干预的必要性。这意味着仅靠技术检测不够，还需要从政策、伦理和访问控制等多层面进行治理，以降低 LLM 被恶意使用的风险。
Q&A
大型语言模型在网络钓鱼攻击中可能带来哪些风险？
大型语言模型能够生成逼真的钓鱼邮件，这些邮件容易逃避垃圾邮件过滤器且成功率较高，可能被用于恶意目的，带来重大的安全和道德问题。
有哪些基于大型语言模型的网络钓鱼检测模型？
基于BERT的IPSDM模型、SecurityLLM、AntiPhishStack等模型被提出用于检测钓鱼邮件和垃圾邮件，结合机器学习和深度学习技术，准确率可达94%至98.96%。
SecurityLLM模型的检测准确率如何？
SecurityLLM模型可以在98%的准确率下识别14种不同类型的攻击。
AntiPhishStack模型在检测钓鱼网站时的准确率是多少？
AntiPhishStack模型在两个基准数据集上表现出色，准确率达到96.04%。
如何防止大型语言模型生成网络钓鱼内容？
可以建立基于BERT的自动检测工具，在早期检测到恶意提示，从而防止大型语言模型生成网络钓鱼内容。该工具对网络钓鱼网站提示的准确率可达97%，对网络钓鱼邮件提示的准确率可达94%。
大型语言模型生成的钓鱼邮件能否逃避现有过滤器？
是的，研究表明大型语言模型生成的钓鱼邮件容易逃避垃圾邮件过滤器，并且成功率较高。
