自主生成 AI 代理在回音室下的极化
内容提要
该文综述社交媒体自我封闭与观点极化研究，涵盖激进化模型、推特实验、回声室心理特征、ChatGPT和Bard的政治倾向、算法峡谷效应、Facebook社群情绪、Reddit跨政治对话及个性化大模型的过滤泡沫风险。
延伸解读
回音室的心理共性
文章指出，科学和阴谋论回音室中的用户主导个性模型相同，且回音室内的稳定会略微改变用户的心理特征。这表明极化现象并非特定群体独有，而是跨议题的心理机制，提醒读者关注自身信息环境对心理的潜在塑造。
AI政治倾向的差异与风险
研究显示，ChatGPT和Bard在美国极化话题中倾向左倾，Bard更易回应争议话题且限制较少。同时，个性化大模型会依用户政治倾向提供正面评价，加剧情感极化和过滤泡沫。这提示AI可能放大而非缓解观点分歧。
打破回音室的尝试与局限
Twitter实验表明，建议用户关注对立意识形态账户能短暂增加联系多样性，但效果随时间减弱。而Reddit选举辩论中发现了跨政治对话，与传统回音室观点相反。这说明干预可能有效，但需持续维持，且平台差异显著。
Q&A
社交媒体上的回音室效应是如何导致观点极化的？
文章指出，社交媒体上的自我封闭和观点极化受到社交影响和话题争议度的共同作用。用户倾向于暴露于认同自己政见的内容中，形成回音室，进而加剧极化。
有什么方法可以减少社交媒体上的政治同质性？
一项Twitter随机试验发现，建议用户关注相反政治意识形态的账户，能减少用户对自己社交网络政治同质性的信念，并在治疗后一周增加联系多样性。但若强化同质性信念，则联系多样性会在2-3周后逐渐减少。
ChatGPT和Bard在政治倾向上有什么差异？
在美国高度极化的话题中，ChatGPT和Bard都倾向于左倾。Bard更可能围绕极化话题提供响应，对争议话题限制较少，倾向于提供全面且更像人类的回答。
推荐算法如何导致峡谷效应？
基于Monte Carlo模拟的研究发现，推荐算法确实会导致峡谷效应显著增加，但这一效应仅在网络中存在相当数量的同质性时才会发生。
Reddit上的政治对话是否也存在回音室现象？
对Reddit上2016年美国总统选举辩论的研究发现，用户之间存在交错的政治对话，这与传统的回音室观点相反。研究还探讨了可能的社会人口学影响。
个性化大语言模型会带来哪些风险？
对个性化大语言模型输出进行用户政治倾向性引导的研究发现，左倾用户更容易接收到对左派政界人物和媒体机构的正面评价，右倾用户则更容易接收到对右派实体的正面评价。这种个性化模式会带来情感极化和过滤泡沫的风险。
