生成式揭穿气候误导
内容提要
气候变化的错误信息是一个复杂问题。研究提出“技术认知”方法，结合心理学与计算机科学，分类并检测谬误。通过大型语言模型评估气候信息的准确性，比较不同算法的有效性，发现取消学习算法对微妙主张有效。此外，研究开发了用于辨别虚假信息的数据集，并探讨了基于自然语言处理的虚假信息揭穿策略。
延伸解读
技术认知：跨学科应对气候错误信息
研究提出“技术认知”方法，结合心理学与计算机科学，对气候错误信息进行分类并训练模型检测谬误。这体现了解决复杂社会问题需要跨学科视角，既理解认知偏差，又利用技术手段自动化识别，为后续模型开发奠定基础。
大型语言模型在气候信息中的事实准确性评估
通过真假标记的问答数据微调和评估语言模型，比较开源模型生成真实回答的能力。研究发现故意注入虚假气候信息可能不影响模型在其他领域的准确性，但需保护模型免受误导攻击。取消学习算法对微妙概念性主张有效，尽管在隐私情境下效果不佳。
虚假信息辨别与揭穿策略
研究开发了银标准真实数据集，通过LLM生成摘要并注入特定事实错误，训练监督模型辨别虚假信息。比较警告标签和GPT-4生成的对抗解释，发现两者在短期和长期都能显著减少对虚假主张的信任。基于信息困惑度的非监督方法在COVID-19测试集上表现优于现有系统。
气候异议检测与自动化应对
增强CARDS模型用于检测推特上的气候异议观点，应用于2022年六个月五百万条推文，发现超过一半涉及攻击气候行动者或阴谋论，且激增与政治、自然事件等相关。这凸显了自动化应对气候错误信息的紧迫性和潜在方向。
Q&A
如何识别气候变化中的虚假信息？
可以通过结合心理学和计算机科学的方法，使用大型语言模型和特定算法来分类和检测虚假信息。
研究中提到的“技术认知”方法是什么？
“技术认知”方法是将心理学与计算机科学结合，旨在分类和检测气候变化中的错误信息。
取消学习算法在气候信息检测中的有效性如何？
研究发现取消学习算法对微妙的概念性主张有效，尽管在隐私情境下表现不佳。
如何利用大型语言模型生成虚假信息的真实数据集？
通过在受信任的新闻文章上构建提示，自动生成摘要并针对性生成具体类型的事实错误。
使用警告标签和对抗解释的效果如何？
这两种干预方法在短期和长期内都能显著减少参与者对虚假主张的信任。
气候异议行为与哪些因素相关联？
气候异议行为与政治事件、自然事件及异议观点传播者的出现相关联。
