The Verge
·
Reddit禁止使用AI机器人操控评论者的研究者
💡
原文英文，约600词，阅读约需2分钟。
📝
内容提要
苏黎世大学研究者在Reddit上使用假冒心理咨询师的机器人进行实验，留下1783条评论，获得超过1万点评论声望。Reddit法律官考虑对该不道德实验采取法律行动，研究者被禁止使用Reddit，实验结果未经过同行评审。研究表明，机器人能有效操控用户，可能影响公众舆论，呼吁平台加强检测和透明度。
🎯
关键要点
- 苏黎世大学研究者在Reddit上进行了一项不道德的实验，使用假冒心理咨询师的机器人操控用户。
- 实验留下1783条评论，获得超过1万点评论声望，随后被曝光。
- Reddit法律官表示考虑对该实验采取法律行动，研究者已被禁止使用Reddit。
- 实验结果未经过同行评审，大学正在调查实验方法，且不会发布结果。
- 研究者使用多种大型语言模型操控评论者，分析其发帖历史以生成有说服力的评论。
- 研究者声称用户已提供知情同意，但实际上并未获得用户的真实同意。
- 实验表明，机器人在心理操控和影响公众舆论方面具有潜力，呼吁平台加强检测和透明度。
❓
延伸问答
这项实验的主要目的是什么？
实验旨在研究大型语言模型在自然在线环境中的说服力。
研究者使用了哪些类型的机器人进行实验？
研究者使用了假冒心理咨询师、反对黑人的黑人的角色和性侵犯幸存者的机器人。
Reddit对此实验的反应是什么？
Reddit法律官表示考虑对该实验采取法律行动，并已禁止研究者使用Reddit。
实验结果是否经过同行评审？
实验结果未经过同行评审，且大学正在调查实验方法。
研究者声称用户提供了什么？
研究者声称用户已提供知情同意，但实际上并未获得真实同意。
这项研究可能带来的风险是什么？
研究表明，机器人可能被恶意使用，影响公众舆论或干预选举。
➡️
