一项研究探讨了思维链（CoT）训练在大语言模型中的作用，发现其主要提升了提示词动作的质量，而非推理能力。模型在训练中更依赖提示词，导致注意力和梯度集中于提示部分。研究提出了一种干预方法，通过选择性掩盖动作令牌监督，增强模型的域外泛化能力，使其在新任务中表现更佳。

本文综述了大型语言模型（LLMs）中的社会偏见评估与缓解技术，探讨了偏见的概念、评估指标及干预方法。研究表明，LLMs在输出中存在显著偏见，影响其作为评估器的可靠性。通过控制实验，分析了偏见对选择行为的影响，并提出设计无偏LLMs应用的建议。研究强调了偏见的复杂性及其对模型性能的影响，呼吁未来研究关注偏见的缓解策略。

本文综述了大型语言模型中的社会偏见评估与缓解技术，探讨了偏见的概念、评估指标和干预方法。研究表明，模型可能捕捉并传播社会偏见，影响公平性。提出了新的评估方法和框架，强调了公平性在人工智能中的重要性，并展示了GPT-4在准确性和公平性方面的优势。

本文综述了大型语言模型中的社会偏见评估与缓解技术，探讨了偏见的概念、评估指标及干预方法。研究表明，流行模型在受保护群体中存在不同程度的偏见，强调了设计对偏见的影响。呼吁对临床决策支持中的模型进行进一步评估与改进，以确保公平与伦理。

多项研究表明，大型语言模型存在人口统计偏见：职业推荐易受刻板印象影响（如墨西哥裔对应低薪岗位、女性对应秘书角色），对性别、种族、年龄、外貌及性少数群体均有偏见，预测结果更接近白人和女性标签。仅靠人口统计提示难以消除偏见。研究提出刻板印象分类器、SHAP启发式方法及指令提示等干预手段，可减少偏见并提升多样性。