基于大规模语言模型的代理社群中社会规范的出现
内容提要
本文研究多智能体系统中的社会规范建立与合作，开发了Nest框架进行模拟实验，发现该框架能有效促进规范形成并避免负面制裁。提出通过社会学习动态系统培训代理人，以实现集体行动和社会利益。同时探讨了动态规范系统的推理问题及计算复杂度，强调社交智能和通信在规范学习中的重要性。
延伸解读
从静态规范到动态规范：推理挑战
文章指出，静态规范系统难以处理规范变化，而动态规范系统需要解决规范合成与规范识别两个问题。规范合成指如何生成新规范，规范识别指如何判断当前适用哪些规范。这两个问题的计算复杂度被讨论，意味着在实际多智能体系统中实现动态规范推理可能面临效率与可扩展性的权衡。
解释机制如何提升规范凝聚力
在规范出现的研究中，代理人通过提供和推理违背规范的解释来决定制裁和识别替代规范。利用遗传算法生成规范、强化学习评估规范价值，并应用解释后，规范获得了更好的凝聚力和目标满足。这表明解释不仅有助于理解违规，还能促进群体对规范的认同，且该结果对不同慷慨态度的社会保持稳定。
社会学习与共享规范假设促进合作
学习智能体通过假设存在共享规范来推断人群规范，并在马尔可夫博弈中利用近似贝叶斯规则归纳快速学习。这种方法使智能体能够维持资源管理规范、亲社会劳动补偿等多种合作制度，推动集体福利的同时允许智能体保持自身利益。这提示共享规范假设是协调个体利益与集体行动的关键机制。
通信与社交智能在规范学习中的作用
文章提到，带有通信能力的智能体通过深度强化学习训练，在指称游戏中反映了自然语言演化的复杂属性，即语言现象可从简单社交交流中产生。此外，通过局部交流互动，自治体群能建立指代实体的语言约定。这些工作强调通信和社交智能对于规范建立、合作以及语言约定形成的重要性。
Q&A
Nest框架的主要功能是什么？
Nest框架能够有效促进规范的建立，避免负面制裁和目标偏离。
如何通过社会学习动态系统培训代理人？
通过利用规范事件培训代理人，构建社会学习动态系统以实现集体行动和社会利益。
动态规范系统解决了什么问题？
动态规范系统解决了静态规范系统无法处理的规范变化推理问题。
代理人如何生成和学习规范的价值？
代理人利用遗传算法生成规范，并通过强化学习学习这些规范的价值。
学习智能体如何推动社会合作？
学习智能体通过假设共享规范推断现有人群规范，从而推动社会合作。
如何识别社交规范违规现象？
通过使用循环神经网络和多模态信息，提出预测模型来识别社交规范违规现象。
