快速思考、慢速思考、批判性思考：设计一种自动化宣传检测工具
内容提要
该文综述宣传与虚假新闻检测研究，涵盖：定义可解释特征并结合预训练语言模型提升检测效果；利用一阶逻辑注入细粒度宣传知识；构建多语言亲克里姆林宫宣传检测应用；提出检测全部宣传技巧片段的新任务及多粒度神经网络；探索多任务架构与集成方案；用自我批评训练生成虚假新闻数据集PropaNews以提升检测准确率。
延伸解读
可解释性特征与预训练模型的结合
文章提到，研究者定义了定性描述性特征，并分析其检测欺骗技术的适用性，同时表明这些可解释性特征能与预训练语言模型结合，达到最先进结果。这提示我们，在宣传检测中，可解释性并非与高性能冲突，而是可以互补。读者可关注这种结合方式如何平衡模型准确性与透明度，为实际应用提供更可信的检测依据。
细粒度检测与逻辑一致性约束
文章介绍了一种通过一阶逻辑注入细粒度宣传知识的方法，在粗粒度和细粒度预测间保持逻辑一致性来规范训练，并利用字面定义获得类表示。实验显示该方法在细粒度宣传检测上性能卓越。这意味逻辑约束能提升模型对宣传技巧的识别精度，读者可留意这种知识注入方式如何减少误判，增强检测的可靠性。
多语言应用与用户反馈
针对克里姆林宫宣传，文章提到发展了首个支持7种语言的NLP增强检测应用，能为普通用户提供新闻反馈、解释操纵性语言特征和关键词，并通过用户研究等调查其优劣势。这表明宣传检测工具正走向多语言和用户中心，读者可关注此类应用如何帮助非专业用户识别操纵性内容，同时注意其局限性和改进空间。
数据生成与检测器性能提升
文章提出利用自我批评序列训练和宣传技巧生成更接近人类写作的文章，创建了虚假新闻检测训练数据集PropaNews。结果表明，使用PropaNews训练的检测器比使用现有方法生成的数据训练的检测器，在检测人类撰写的虚假信息方面准确性提高了7.3%至12.0%。这提示高质量合成数据能有效提升检测器性能，读者可思考数据生成策略对模型泛化能力的影响。
Q&A
自动化宣传检测工具的主要目标是什么？
自动化宣传检测工具旨在检测和展示误导性及宣传性新闻文章和媒体帖子中的技术，以提供可解释性，帮助在线用户应对日常暴露的此类内容。
如何提高宣传检测模型的可解释性和准确性？
可以定义定性描述性特征，分析其检测欺骗技术的适用性，并将这些可解释性特征与预训练语言模型结合，从而产生最先进的结果。
有哪些方法可以将细粒度宣传知识注入检测模型？
通过利用一阶逻辑和自然语言表达的声明知识进行训练，在粗粒度和细粒度预测之间保持逻辑一致性来规范训练过程，并利用字面定义每种宣传技术来获得类表示以规范模型参数。
针对克里姆林宫宣传，开发了什么样的检测应用？
发展了首个支持7种语言的NLP增强的亲克里姆林宫宣传检测应用程序，能为普通用户提供新闻反馈、解释操纵性语言特征和关键词，并通过用户研究等调查其优劣势。
在宣传检测中，片段级检测任务是什么？
该任务是在文本中检测包含宣传技巧及其类型的所有片段，解决了以往检测宣传文本时金标准误差及解释难题。研究者手动标注了18种宣传技巧的新闻文章片段集，并设计了多粒度神经网络，表现优于几个强的BERT-based基线。
PropaNews数据集如何提升虚假新闻检测的准确性？
PropaNews是通过自我批评序列训练和宣传技巧生成更接近人类写作的文章而创建的虚假新闻检测训练数据集。使用PropaNews训练的检测器比使用现有方法生成的数据训练的检测器在检测人类撰写的虚假信息方面的准确性提高了7.3%至12.0%。
