利用 LLMs 支持预见性治理：评估和调整大型语言模型与新闻媒体相符，预测人工智能的负面影响
内容提要
研究综述显示，大型语言模型广泛应用于内容生成、教育、新闻检测、金融投诉等领域，但存在性别与种族偏见，其中ChatGPT偏见最低。人机协作写作中，引导和选择输出效果最佳。LLMs可辅助气候传播、商业教育、威胁检测和语言教学，并能提升信息说服力。新闻推送算法结合LLMs可促进跨政治观点的建设性对话。
延伸解读
LLM偏见与教育应用的双面性
文章指出，七种主流LLM均存在性别和种族偏见，但ChatGPT偏见最低且能拒绝生成偏见内容。同时，LLM在商业教育中表现突出，GPT-4 Turbo在GMAT考试中超越研究生和商学院平均分。这提示我们：LLM能力越强，其潜在偏见的社会影响也越大，教育领域在拥抱AI时需同步关注偏见治理。
人机协作写作：引导与选择优于自由编辑
在LLM辅助新闻标题生成的研究中，引导系统和从输出中选择的效果最佳，成本最低，且未损害作者的控制感。相比之下，自由编辑需要更多修正。这表明，高效利用LLM的关键在于人类主动引导和筛选，而非完全放手或事后大改，这为内容创作者提供了可操作的协作模式。
假新闻检测的机器文本偏差
研究发现，仅用人工文章训练的检测器能识别机器生成的假新闻，但反之不成立。检测器对机器生成文本存在偏见，因此训练集中机器生成新闻的比例应低于测试集。这一发现对开发稳健的假新闻检测器具有实用价值，提醒研究者在数据构建时注意来源平衡。
LLM在专业领域的应用潜力与风险
文章综述了LLM在气候传播、威胁检测、语言教学和金融投诉等领域的应用。在金融投诉中，LLM使用与更理想的结果和语言特征改善相关，并能提升信息说服力。在语言教学中，则需关注生成式AI带来的伦理风险。这些案例显示，LLM能增强人类沟通，但不同领域需定制化评估其局限。
Q&A
大型语言模型在生成内容时存在哪些偏见？哪个模型的偏见最低？
研究发现，七种代表性大型语言模型生成的内容均存在明显的性别和种族偏见，其中ChatGPT生成的内容偏见最低，且能够拒绝产生带有偏见的内容。
人类如何与LLM协作进行写作效果最好？
在LLM辅助新闻标题生成中，引导系统和从系统输出中选择这两种交互方式带来的利益最大，成本最低（时间和精力）。虽然LLM可单独生成令人满意的标题，但平均需要人类修正不符合要求的输出。人工智能辅助对控制感认知没有伤害。
LLM在商业教育中的表现如何？
一项基准测试评估了七种主要LLM在商业教育领域的性能，大多数LLM在GMAT考试中表现出色，特别是GPT-4 Turbo超越了研究生和商学院的平均分数。这确定了AI在教育领域的潜力，并强调了发展和应用AI的挑战和需求。
LLM如何帮助检测假新闻？
研究发现，仅训练于人工编写文章的检测器在检测机器生成的假新闻方面表现良好，但反之不成立。由于检测器对机器生成文本存在偏见，需要在训练集中使用比测试集中较低比例的机器生成新闻。基于此，提供了开发健壮假新闻检测器的实用策略。
LLM在金融消费者投诉中有何作用？
调查发现，LLM在金融行业消费者投诉中的使用与获取理想结果的可能性及语言特征改善相关。实验证明LLM能提升人类沟通中的信息说服力，凸显了LLM在人类沟通中的转变潜力。
新闻推送算法如何利用LLM促进建设性对话？
研究使用大型语言模型和基于代理模型的仿真，发现新闻推送算法能够促进跨政治观点的建设性、非有害对话。
