CARE-SD：电子病历中辨识和清除带有污名和怀疑标签的基于分类器的分析：模型开发和验证
内容提要
本研究探讨了电子健康记录中有辱人格言语对深度学习模型死亡预测的影响，发现去除这些言语能有效减少种族偏见。同时，比较了不同模型在医疗信息处理中的表现，强调了自然语言处理技术在提高预测准确性和识别敏感信息方面的重要性。
延伸解读
污名化语言与算法公平性
文章指出，电子健康记录中由核心临床医生填写的污名化或怀疑性言语，会显著影响基于Transformer的深度学习模型在死亡预测中的表现，并加剧种族偏见。删除这些言语被证明是减少模型种族偏见的有效策略。这提示医疗AI开发者，在数据预处理阶段应重视文本中的社会偏见因素，而不仅仅是追求预测精度。
结构化数据与文本模型的性能权衡
文章比较了不同模型在医疗信息处理中的表现，发现使用结构化健康数据模型在预测急性护理使用风险上能够最小限度地胜过自然语言处理模型。然而，自然语言处理技术在处理医生笔记等非结构化数据时具有独特优势，例如在COVID-19住院患者诊断中，基于医生笔记的数据集效果更好。因此，实际应用中需根据任务特点和数据可用性权衡模型选择。
自然语言处理技术的临床潜力与风险
文章强调，引入掩蔽语言建模预训练等先进自然语言处理技术，可提高临床病历评估的效率和性能，并改变评估潜力。但同时也需谨慎：预训练语言模型可能放大社会偏见，且模板设计和提示方式会影响输出。在利用语言模型表示结构化电子健康记录时，虽能提升风险预测性能，但必须注意其潜在偏见和泛化风险。
Q&A
电子健康记录中的有辱人格言语如何影响死亡预测模型？
有辱人格言语会对基于深度学习的死亡预测模型产生负面影响，去除这些言语可以有效减少模型中的种族偏见。
研究中使用了哪些模型来处理医疗信息？
研究比较了基于Transformer的深度学习模型和可解释性人工智能技术，以及结构化健康数据模型和NLP模型。
去除有辱人格言语的策略有什么效果？
去除有辱人格言语能有效减少人工智能模型中的种族偏见，提高预测的准确性。
自然语言处理技术在医疗信息处理中的作用是什么？
自然语言处理技术能够提高预测准确性和识别敏感信息，增强临床病历评估的效率和性能。
结构化健康数据模型与NLP模型的比较结果如何？
结构化健康数据模型在预测急性护理使用风险上表现优于NLP模型。
研究中提到的偏见和风险是如何被检测的？
研究通过检测自然语言处理中的倾向性，评估人工智能模型的偏见和风险，特别是对弱势群体的影响。
