FakeNewsGPT4：通过知识增强的 LVLMs 推进多模态假新闻检测
内容提要
本文综述大语言模型时代的假新闻检测研究。现有检测器对机器生成内容存在偏见，易将AI生成新闻误判为假；LVLM结合外部知识可提升多模态检测准确性；GPT-4V在多项任务中表现良好但存在幻觉问题；知识库集成能改善检测效果；大模型可辅助小模型，但尚不能替代。
延伸解读
检测器偏见：AI生成内容易被误判
文章指出，现有假新闻检测器对机器生成内容存在显著偏见，更容易将大语言模型生成的内容标记为假新闻，而常将人类撰写的假新闻误判为真实。这种偏见可能导致对AI生成内容的过度审查。为缓解此问题，作者采用对抗训练与LLMs重写真实新闻相结合的缓解策略，在人类和LLMs生成的新闻检测准确性上均取得显著改进，并发布了GossipCop++和PolitiFact++数据集以推动研究。
知识增强提升检测效果，但依赖领域知识
将维基数据等知识库集成到语言模型中，可提高假新闻检测的效果和鲁棒性。实验显示，基于知识的模型在LIAR数据集上显著提升检测效果，但在COVID-19数据集上结果混合，这强调了领域特定、最新知识库的重要性。因此，知识增强方法并非万能，其效果高度依赖于知识库的覆盖范围与时效性，在快速变化的领域可能受限。
大模型辅助小模型：当前定位是顾问而非替代
研究发现，大型语言模型虽能提供多元的合理解释，却无法像小语言模型那样适当选择和结合解释来得出结论。因此，当前大模型不能替代小模型在虚假新闻检测中的作用，但可作为顾问提供启示性解释。作者设计的自适应启示指导网络（ARG）让小模型从大模型的解释中选择性获取见解，实验证明其优于多种基准方法，表明大小模型协作是更可行的路径。
GPT-4V展现多模态潜力，但幻觉与泛化仍是短板
对GPT-4V在五项任务上的定量分析显示，其在情感分析、仇恨言论检测、假新闻识别等任务上效果显著，并具备图像-文本联合理解、文化和语境意识及广泛常识知识。然而，在多语言社交多媒体理解和对社交媒体最新趋势的泛化方面仍存在挑战，且在涉及名人和政治家知识时会出现错误信息生成倾向，反映了已知的幻觉问题。这表明大型多模态模型潜力巨大，但实际部署需谨慎对待其局限性。
Q&A
现有假新闻检测器为什么容易把AI生成的新闻误判为假新闻？
因为许多现有检测器存在显著偏见，更容易将大语言模型生成的内容标记为假新闻，而常常误将人类撰写的假新闻分类为真实。
GPT-4V在社交多媒体内容理解方面有哪些优势和不足？
GPT-4V在情感分析、仇恨言论检测、假新闻识别、人口推断和政治意识形态检测等任务上表现显著，具备图像-文本配对联合理解、文化和语境意识以及广泛常识知识；但在多语言社交多媒体理解、对社交媒体最新趋势的泛化方面存在挑战，并在涉及名人和政治家知识时会出现错误信息生成的倾向，反映幻觉问题。
知识库集成如何提升假新闻检测效果？
将丰富的人类编写事实信息知识库（如维基数据）集成到语言模型中，可以显著提高假新闻检测在LIAR数据集上的效果，但在COVID-19数据集上结果混合，强调了领域特定的、最新知识库的重要性。
大型语言模型能替代小型语言模型进行假新闻检测吗？
不能。大型语言模型虽能提供多元的合理解释，但无法像小型语言模型那样适当选择和结合解释来得出结论。当前大型语言模型不能替代小型语言模型，但可以作为顾问提供多元的启示性解释。
如何缓解假新闻检测器对机器生成内容的偏见？
引入一种对抗训练与大语言模型重写的真实新闻相结合的缓解策略，从而在人类和大语言模型生成的新闻的检测准确性方面取得显著改进。
LEMMA方法是什么？它有什么作用？
LEMMA是一种利用大型视觉语言模型及外部知识增强的方法，能大幅提升多模态错误信息检测的准确性。
