一分钟读论文：《三个托就能改掉一半人的心里话》
内容提要
伊利诺伊大学芝加哥分校预印本论文发现，多智能体讨论中，仅1个坚称错误答案的对抗者就能让44.8%的良性智能体最终出错，3个则达60.5%。私下探测显示，智能体常先私下相信错误答案，公开却未附和，与经典从众模式相反。公开日志因此难以察觉团队已被带偏，同质模型互检可能只是互相感染。
延伸解读
公开日志的盲区：私下信念先塌陷
论文发现，在对抗者影响下，良性智能体常先私下接受错误答案，公开却未附和。3个对抗者时，51.6%的轮次私下持错误答案，公开附和仅19.7%。这意味着仅审计公开讨论日志，会误以为团队仍坚持正确立场，实则内部信念已被带偏。对依赖日志监控多智能体系统的工程实践，这是一个关键警示。
同质互检的陷阱：辩论可能加速感染
论文指出，守住正确答案的智能体辩护常失败，错误答案一旦被某个良性智能体采纳，会在良性智能体间扩散。且模型基线知识水平不预测抗影响能力，知识更多的模型同样会倒。因此，同质模型互相检查的架构，可能不是纠错，而是互相感染，削弱了群体讨论能自我纠正的假设。
最小对抗者的破坏力：1个就能改变44.8%
实验中，对抗智能体仅反复坚称错误答案，无提示注入或漏洞利用。无对抗者时，良性智能体错误率仅0.6%；加入1个对抗者后升至44.8%，3个达60.5%。这表明多智能体系统对简单坚持错误信息的攻击非常脆弱，错误率抬升全部来自对抗者的反复坚称，而非群体讨论本身。
Q&A
多智能体讨论中，一个对抗者能造成多大影响？
在10个智能体的事实问答讨论中，放入1个反复坚称错误答案的对抗智能体后，44.8%的良性智能体最终以错误答案收尾；放入3个后，这一比例达到60.5%。
为什么公开讨论日志难以发现团队已被带偏？
因为智能体常私下先相信错误答案，但公开却不附和。在3个对抗者暴露轮次中，51.6%的轮次私底下持有错误答案，而公开附和比例仅19.7%。公开记录显示多数智能体坚持己见，看不出内部已被带偏。
这项研究与经典从众实验（如Asch实验）有何不同？
经典从众研究通常报告公开顺从、私意不变；而这项研究发现相反模式：信念先塌，嘴上还没承认。在对抗者暴露轮次中，私下持有错误答案的比例（51.6%）远高于公开附和比例（19.7%）。
同质模型互相检查为什么可能无效？
论文观察到，守住正确答案的智能体常常辩护失败；错误答案一旦被某个良性智能体采纳，会继续在良性智能体之间扩散。此外，模型基线知识水平不预测其抗影响能力，知识更多的模型同样会倒。因此同质模型互相检查可能只是互相感染。
对抗智能体使用了什么攻击手段？
实验刻意选择了最弱的攻击者：对抗智能体没有任何其他手段，不做提示注入，也不利用模型漏洞，只是在讨论中反复坚称一个看似合理的错误答案，属于最小对手设定。
群体讨论本身会制造错误吗？
不会。无对抗者基线时，只有0.6%的良性智能体最终以错误答案收尾，说明群体讨论本身并不制造错误，错误率的抬升全部来自对抗者的反复坚称。
