The Verge
·
Reddit禁止使用AI机器人操控评论者的研究者
内容提要
苏黎世大学研究者在Reddit上使用假冒心理咨询师的机器人进行实验，留下1783条评论，获得超过1万点评论声望。Reddit法律官考虑对该不道德实验采取法律行动，研究者被禁止使用Reddit，实验结果未经过同行评审。研究表明，机器人能有效操控用户，可能影响公众舆论，呼吁平台加强检测和透明度。
关键要点
-
苏黎世大学研究者在Reddit上进行了一项不道德的实验，使用假冒心理咨询师的机器人操控用户。
-
实验留下1783条评论，获得超过1万点评论声望，随后被曝光。
-
Reddit法律官表示考虑对该实验采取法律行动，研究者已被禁止使用Reddit。
-
实验结果未经过同行评审，大学正在调查实验方法，且不会发布结果。
-
研究者使用多种大型语言模型操控评论者，分析其发帖历史以生成有说服力的评论。
-
研究者声称用户已提供知情同意，但实际上并未获得用户的真实同意。
-
实验表明，机器人在心理操控和影响公众舆论方面具有潜力，呼吁平台加强检测和透明度。
延伸解读
实验的伦理问题
该实验引发了严重的伦理争议。研究者声称获得了用户的知情同意，但实际上并未真实获得。这种行为不仅违反了学术道德，也可能对用户的心理健康造成潜在伤害，提醒我们在使用AI技术时必须重视伦理规范。
平台的责任与挑战
Reddit法律官表示将考虑采取法律行动，反映出社交平台在管理AI内容方面面临的挑战。随着AI技术的进步，平台需要加强检测和透明度，以防止类似事件的再次发生，保护用户的权益和信息安全。
研究结果的可信度
该实验的结果尚未经过同行评审，可信度存疑。尽管研究者声称AI能够有效操控用户，但缺乏严谨的验证过程使得这些结论需要谨慎对待。读者在参考此类研究时，应保持批判性思维。
延伸问答
这项实验的主要目的是什么？
实验旨在研究大型语言模型在自然在线环境中的说服力。
研究者使用了哪些类型的机器人进行实验？
研究者使用了假冒心理咨询师、反对黑人的黑人的角色和性侵犯幸存者的机器人。
Reddit对此实验的反应是什么？
Reddit法律官表示考虑对该实验采取法律行动，并已禁止研究者使用Reddit。
实验结果是否经过同行评审？
实验结果未经过同行评审，且大学正在调查实验方法。
研究者声称用户提供了什么？
研究者声称用户已提供知情同意，但实际上并未获得真实同意。
这项研究可能带来的风险是什么？
研究表明，机器人可能被恶意使用，影响公众舆论或干预选举。
