语言模型是可对齐的决策者：数据集和医疗分诊领域的应用
内容提要
研究评估了大型语言模型在临床决策中的社会偏差，发现不同模型间存在偏见，提示设计影响偏差。提出DeLLMa框架以优化决策过程，提升准确率40%。强调需评估模型的道德特性，确保公平医疗，并探讨模型在道德判断中的表现，揭示其与人类偏好的差异，呼吁关注模型的伦理影响。
延伸解读
模型偏见并非规模决定
研究发现，大型语言模型在临床决策中的社会偏见并不随模型规模增大而减少，专用模型也不一定比通用模型更公平。这意味着选择模型时不能仅凭参数规模判断其公平性，而需针对具体临床场景进行偏见评估。同时，提示设计会显著影响偏见表现，因此在实际部署中应优化提示策略以降低歧视风险。
DeLLMa框架提升决策可靠性
DeLLMa框架通过多步骤脚手架过程，将决策理论和效用理论融入大型语言模型的推理中，使决策准确率提高了40%。这一方法不仅优化了决策过程，还提供了人类可审查的路径，有助于在医疗等高风险领域增强模型决策的透明度和可信度。但需注意，该结果基于特定实验，实际应用效果仍需进一步验证。
道德偏见与对齐挑战
通过道德基础问卷，研究发现多数被调查模型表现出明显的自由主义偏见，且专有模型偏向功利主义，开源模型更接近价值伦理学。模型与人类道德判断在质上相似，但量上差异显著，模型决策往往更坚决。这提示在医疗等场景中，需警惕模型道德观与人类偏好的偏差，并可通过相似性激活引导等技术进行干预。
Q&A
大型语言模型在医疗决策中存在哪些社会偏差？
研究发现八种大型语言模型在受保护群体之间存在不同程度的社会偏差，且模型的设计提示方式也会影响这些偏差。
DeLLMa框架的主要功能是什么？
DeLLMa框架通过多步骤的过程优化决策，显著提高决策准确率40%，并提供可由人类审查的决策过程。
如何评估大型语言模型的道德特性？
研究通过道德基础问卷评估模型的道德特性，发现大多数模型显示出明显的自由主义偏见。
大型语言模型与人类的道德判断有何不同？
研究显示大型语言模型在某些方面与人类的道德判断存在显著差异，尤其是在决策的坚决性上。
如何降低大型语言模型的歧视风险？
通过有效的提示语句工程，可以降低大型语言模型在特定情况下的歧视风险，为安全部署提供路径。
大型语言模型在医疗领域的应用引发了哪些担忧？
大型语言模型在医疗领域的应用引发了对其道德特性和公平医疗的担忧，强调需要进行评估和改进。
