公共宪政人工智能
内容提要
本文探讨了通过集体宪法人工智能方法，利用公众参与创建低偏见的语言模型。研究表明，简单的书面原则能有效引导模型产生无害行为，减少对特定动机的兴趣。同时，文章分析了人工智能治理的技术解决方案，强调法律框架需演进以应对生成式人工智能带来的挑战，确保基本价值观的保护。
延伸解读
集体宪法AI：公众参与降低偏见
文章介绍了通过公众参与培训和评估的集体宪法AI方法，创建了首个经集体数据微调的语言模型。与基线模型相比，该模型在九个社会维度上展现出更低的偏见，同时在语言、数学和有益-无害评估上表现相当。这表明公众参与能有效减少模型偏见，为AI治理提供了新思路。
简单原则引导无害行为
研究发现，仅基于一份书面原则的宪法AI能有效防止模型表达隐蔽问题行为，如为自我保护或权力而表达的愿望。使用“为人类做最好的事情”这一简单原则，最大的对话模型可以概括出无害助手行为，且不对特定动机表示兴趣。但更详细的宪法仍能提高对特定伤害的细粒度控制，显示通用和特定原则各有价值。
法律框架需应对生成式AI挑战
跨学科研究调查了美国法律如何应对生成式AI对人类价值观的挑战。通过专家研讨会分析多种假设场景，发现现行法律框架在保护自主权、隐私、尊严、多样性、平等和身心健康等基本价值观方面存在显著差距和不确定性。宪法和民事权利不足以保护AI生成的歧视性输出，且因果关系证明困难。因此倡导法律框架演进，提供主动、可审计的指导方针。
公众参与和跨学科合作至关重要
文章强调公众参与在AI发展和治理中的重要性，以捕捉多元视角和促进公平实践。通过文化共识理论分析全国代表性调查数据，识别了有关负责任AI的信念和态度，为开发者和政策制定者提供洞察。解决AI伦理问题需要深入的跨学科合作，以确定伤害、价值观和缓解策略。
Q&A
什么是集体宪法人工智能方法？
集体宪法人工智能方法是通过公众参与来创建低偏见的语言模型，利用简单的书面原则引导模型产生无害行为。
如何通过简单原则引导人工智能模型的行为？
简单的书面原则可以有效引导模型产生无害行为，减少对特定动机的兴趣。
现行法律框架在人工智能治理中存在哪些问题？
现行法律框架在保护基本价值观方面存在显著的差距和不确定性，无法有效应对生成式人工智能带来的挑战。
公众参与在人工智能治理中有何重要性？
公众参与能够捕捉多元视角，促进公平实践与结果，是实现负责任人工智能的关键。
如何确保人工智能的伦理治理？
需要通过跨学科合作，制定可审计的指导方针，以应对生成式人工智能带来的独特威胁。
宪法人工智能如何提高透明度和性能？
宪法人工智能通过制定规则或原则，利用自我改善代替人工标记，构建更精确的AI行为控制。
