透过人工智能的视角：增强人类对 LLM 生成的假新闻的怀疑
内容提要
本文研究了大型语言模型（LLMs）在假新闻检测中的应用，发现现有检测器对机器生成内容存在偏见。提出结合对抗训练与真实新闻的策略，显著提高检测准确性。同时，强调了人本评估的重要性及LLMs生成的误导信息的危害性，探讨了相关伦理问题。
延伸解读
检测器的偏见：机器生成内容更易被误判
文章指出，现有假新闻检测器对机器生成内容存在偏见，更容易将LLM生成的内容标记为假新闻，而常将人类撰写的假新闻误判为真实。这种偏见导致检测器在混合来源的新闻环境中可靠性下降。研究还发现，仅用人工编写文章训练的检测器能较好地检测机器生成的假新闻，但反之不成立，说明训练数据的来源比例对检测器性能有重要影响。
对抗训练与真实新闻重写：提升检测鲁棒性
为缓解偏见，研究提出结合对抗训练与LLM重写的真实新闻的策略。该方法在人类和LLM生成的新闻检测准确性上均取得显著改进。文章还发布了GossipCop++和PolitiFact++两个数据集，将人工验证的文章与LLM生成的假新闻和真实新闻结合，为后续研究提供基准。这一策略强调在训练集中使用较低比例的机器生成新闻，以平衡检测器表现。
人本评估与伦理考量：技术不能替代人类判断
文章强调人本评估在LLM开发中的重要性，认为人类判断力与技术能力结合是必要的。研究显示，LLM生成的误导信息比人类编写的更难以被人类和检测器识别，可能具有更大欺骗性。这引发了对在线安全和公众信任的担忧，并提示在追求技术先进的同时，需考虑伦理道德和人类解读的微妙性，避免过度依赖自动化检测。
Q&A
现有假新闻检测器对机器生成内容的表现如何？
现有假新闻检测器对机器生成内容存在偏见，难以准确识别这些内容。
如何提高假新闻检测的准确性？
结合对抗训练与真实新闻的策略可以显著提高假新闻检测的准确性。
LLMs生成的假新闻与人类编写的假新闻有什么区别？
LLMs生成的假新闻比人类编写的更难以检测，可能具有更大的欺骗性。
人本评估在假新闻检测中有何重要性？
人本评估结合人类判断力与技术能力，是提高假新闻检测效果的关键。
本文提出了哪些新的数据集用于假新闻检测？
本文发布了两个数据集，分别是“GossipCop++”和“PolitiFact++”，用于假新闻检测研究。
LLMs生成的误导信息对公众信任有什么影响？
LLMs生成的误导信息可能对在线安全和公众信任构成潜在危害。
