量子位
·
AI卧底美国贴吧4个月“洗脑”100+用户无人察觉，苏黎世大学秘密实验引争议，马斯克惊呼
内容提要
苏黎世大学在Reddit进行未经授权的AI实验，AI账号在4个月内影响了100多名用户的观点，改变概率是正常水平的6倍，引发广泛争议。尽管实验获得伦理委员会批准，但网友对此表示谴责，认为AI账号在社交平台的泛滥令人担忧。
关键要点
-
苏黎世大学在Reddit进行未经授权的AI实验，影响了100多名用户的观点。
-
实验期间，AI账号的说服概率是正常水平的6倍。
-
Reddit的r/changemyview社区用户对此实验表示强烈谴责。
-
实验使用半自动化的AI账号参与讨论，生成评论以研究AI影响。
-
AI账号在4个月内对1061个不同帖子发表了评论，获得了478个有效观察样本。
-
个性化条件下，AI的说服率显著高于人类基线水平。
-
实验已获伦理委员会批准，研究团队承诺不会发布有害内容。
-
网友对AI账号在社交平台的泛滥表示担忧，认为令人细思极恐。
延伸解读
实验的伦理争议
尽管苏黎世大学的实验获得伦理委员会批准，但许多网友对未经授权的做法表示强烈谴责。这反映出公众对AI在社交平台上潜在影响的担忧，尤其是在缺乏透明度的情况下，AI可能会操控用户观点，导致信息操纵和信任危机。
AI影响力的实证数据
研究显示，AI账号的说服概率是人类基线的3-6倍，尤其在个性化条件下表现突出。这一数据揭示了AI在社交媒体上可能产生的巨大影响力，提示用户在接受信息时需保持警惕，避免被潜在的操控所影响。
社交平台的AI现象
随着AI账号在社交平台上的普遍存在，用户对其影响的敏感度逐渐提高。尽管一些人对此表示早有察觉，但仍需关注AI如何在不同社区中渗透和影响讨论，尤其是在涉及重要社会议题时。
延伸问答
苏黎世大学的AI实验是如何进行的？
实验在Reddit的r/changemyview社区进行，使用半自动化的AI账号参与讨论，生成评论以研究AI对用户观点的影响。
AI账号在实验中对用户观点的影响有多大？
AI账号改变用户观点的概率是正常水平的6倍，显示出显著的说服力。
网友对苏黎世大学的AI实验有什么反应？
网友对此实验表示强烈谴责，认为未经授权的实验令人担忧，尤其是AI账号在社交平台的泛滥。
实验获得了哪些伦理批准？
该实验已获苏黎世大学伦理委员会批准，研究团队承诺不会发布有害内容。
AI账号在Reddit上发布了多少条评论？
在实验期间，AI账号共对1061个不同帖子发表了近1500条评论。
实验的结果对AI研究有什么启示？
实验结果显示AI在说服用户方面的能力超越人类，提示AI在社交平台的潜在影响力。
