捕捉变色龙：检测使用大型语言模型生成的不断演变的虚假信息
内容提要
本研究探讨了大型语言模型（LLMs）生成的虚假信息对谣言检测技术的影响，并提出结合LLMs的新检测方法。研究发现现有检测器对LLMs生成内容存在偏见，提出“以毒攻毒”策略，通过生成真实和虚假内容提高检测准确性。同时推出了“GossipCop++”和“PolitiFact++”数据集，推动谣言检测技术的发展。
延伸解读
检测器偏见：机器生成内容易被误判
研究发现，现有假新闻检测器对大型语言模型生成的内容存在显著偏见，更容易将其标记为假新闻，而常将人类撰写的假新闻误判为真实。这种偏见可能导致检测系统在实际应用中产生大量误报，尤其当机器生成内容日益普及时，检测器的可靠性面临挑战。
以毒攻毒：利用LLM生成内容增强检测
为缓解偏见，研究提出“以毒攻毒”策略，即利用LLM生成真实和虚假内容，结合对抗训练与LLM重写的真实新闻，提升检测器在人类和机器生成新闻上的准确性。实验显示，GPT-3.5-turbo在多个数据集上准确率达68-72%，表明生成式方法能有效辅助检测。
新数据集推动谣言检测研究
研究发布了GossipCop++和PolitiFact++两个数据集，将人工验证的文章与LLM生成的假新闻和真实新闻结合。这些数据集为开发更鲁棒的检测器提供了基准，有助于解决训练集中机器生成新闻比例需低于测试集的问题，推动领域发展。
LeRuD：无需训练数据的谣言检测
LeRuD是一种LLM驱动的谣言检测方法，通过设计提示教LLM在新闻和评论中推理，并将传播信息分割为传播链以减轻负担。在Twitter和微博数据集上，LeRuD表现优于多种先进模型，且无需训练数据，在少样本或零样本场景中展现出潜力。
Q&A
大型语言模型如何影响谣言检测技术？
大型语言模型生成的虚假信息对现有谣言检测技术造成偏见，导致检测器更容易将其标记为假新闻。
什么是“以毒攻毒”策略？
“以毒攻毒”策略是通过生成真实和虚假内容来提高谣言检测的准确性，利用大型语言模型的生成能力对抗虚假信息。
研究中推出了哪些新的数据集？
研究中推出了“GossipCop++”和“PolitiFact++”数据集，以推动谣言检测技术的发展。
LeRuD方法在谣言检测中表现如何？
LeRuD方法在社交媒体谣言检测中表现优异，超过了多种先进模型，并且无需训练数据。
现有检测器对机器生成内容的偏见表现如何？
现有检测器更容易将机器生成的内容标记为假新闻，而常常误将人类撰写的假新闻分类为真实。
如何提高大型语言模型在虚假信息检测中的性能？
通过多样的启发式方式和多个实例学习策略，可以提高大型语言模型在文本和传播结构理解方面的检测性能。
