对抗风格扩充的大型语言模型用于鲁棒假新闻检测
内容提要
本文研究了大型语言模型在假新闻检测中的应用，发现现有检测器对机器生成内容存在偏见。提出了Style-News框架，通过分析出版商元数据提高检测准确性，并发布了新数据集以推动研究。同时，设计了自适应启示指导网络（ARG）以改善检测效果，强调了结合小型和大型语言模型的优势。
延伸解读
检测器偏见：机器生成内容更易被误判
文章指出，现有假新闻检测器对机器生成内容存在显著偏见，更容易将LLM生成的内容标记为假新闻，而常将人类撰写的假新闻误判为真实。这种偏见可能导致检测器在实际应用中产生大量误报，尤其当机器生成内容日益普遍时。因此，开发鲁棒的检测器需在训练集中使用比测试集更低比例的机器生成新闻，以缓解偏见。
Style-News框架：利用出版商元数据提升检测
Style-News框架通过分析出版商元数据（如模板、文本类型、政治立场和可信度）来验证新闻，并训练风格感知的生成器和鉴别器。实验表明，该框架在生成内容的质量上优于先前方法，并在发布者预测和神经假新闻检测上超越最先进基准。这提示我们，结合风格与来源信息可有效提升检测准确性。
ARG网络：大小模型协作的检测新思路
研究发现，大型语言模型虽能提供多元解释，但无法像小型语言模型那样适当选择和结合解释来得出结论。因此，作者设计了自适应启示指导网络（ARG），让小型语言模型从大型语言模型的解释中选择性获取见解。ARG和ARG-D在真实数据集上优于基于小型、大型及组合模型的基准方法，表明大小模型协作可提升检测效果，且ARG-D适用于成本敏感场景。
新数据集与对抗攻击：推动鲁棒检测研究
为促进研究，作者发布了GossipCop++和PolitiFact++数据集，将人工验证文章与LLM生成的假新闻和真实新闻结合。此外，文章还提到VLPrompt攻击方法及VLPFN数据集，用于评估检测器对LLM生成假新闻的鲁棒性。这些资源有助于开发更鲁棒的检测器，并提醒我们需关注对抗性攻击对检测的影响。
Q&A
大型语言模型在假新闻检测中存在哪些偏见？
现有假新闻检测器对机器生成内容存在偏见，容易将其标记为假新闻，而常常误将人类撰写的假新闻分类为真实。
Style-News框架的主要功能是什么？
Style-News框架通过分析出版商元数据，提高假新闻检测的准确性，防止有害虚假信息传播。
新发布的数据集对假新闻检测研究有什么帮助？
新数据集“GossipCop++”与“PolitiFact++”结合了人工验证的文章与机器生成的假新闻，推动了假新闻检测的研究。
自适应启示指导网络（ARG）是如何改善假新闻检测的？
ARG结合小型和大型语言模型的优势，通过选择性获取大型模型的解释，显著提高了假新闻检测的准确性。
ARG和ARG-D在真实数据集上的表现如何？
ARG和ARG-D在真实数据集上的表现优于现有的检测方法，显示出更高的检测准确性。
如何解决大型语言模型在假新闻检测中的局限性？
通过对抗训练与大型语言模型重写真实新闻相结合的策略，显著提高了人类和机器生成新闻的检测准确性。
