PRECISe：在不平衡和稀缺数据环境下的可解释分类原型保留
内容提要
本研究探讨了深度学习模型在医学成像中的应用，强调可解释性机器学习在自动诊断中的潜力。通过多源数据集，提出了半监督学习框架和基于概念瓶颈的预处理方法，改善了分类性能并消除了虚假相关性。同时，研究关注模型公平性和细粒度学习，提出新的评估指标以提升医学影像分析效果。
延伸解读
多源数据与域泛化的价值
文章利用10个不同胸透数据集构建基准，实证表明在多样化的病人群体上训练模型，能提升样本外域泛化能力。这提示医学影像模型开发中，数据来源的多样性比单一数据集的大规模训练更有利于跨群体泛化，但需注意不同数据集的标注标准和采集条件可能引入新的偏差。
可解释性与虚假相关性的消除
针对Covid-19胸部X射线数据，研究指出模型可能依赖意外混杂区域产生虚假相关性。通过解释性学习方法交互式消除这些相关性，能构建更稳健的模型。这提醒读者，高准确率未必代表模型学到了正确的医学特征，可解释性工具是识别和纠正混杂因素的关键手段。
数据效率与公平性策略
基于熵的样本评分可移除语义冗余数据，仅用信息量高的样本训练即可优于全量数据。同时，在反复学习策略中，伪标签策略表现出更小的偏差。这表明在医学影像数据稀缺且不平衡的场景下，优先选择信息量高的样本和伪标签策略，能在提升效率的同时兼顾模型公平性。
细粒度评估与临床解释
文章指出自动放射学诊断中的二元分类过于简化，正类内部差异显著，因此提出新指标AUC^FG以促进细粒度学习。此外，基于概念瓶颈的预处理方法在肺癌检测中达到F1>0.9，并生成更可靠的临床解释。这强调评估指标需与临床细节对齐，且模型解释应具备临床相关性。
Q&A
可解释性机器学习在医学影像中的应用有哪些潜力？
可解释性机器学习在医学影像数据自动诊断中具有提高准确性和可解释性的潜力，尤其在骨折检测和皮肤癌诊断方面表现突出。
如何解决医学图像分类中的数据注释耗时和类别分布不平衡的问题？
通过提出基于自我训练的半监督学习框架，可以捕捉类依赖性边缘预测，从而解决数据注释耗时和类别分布不平衡的问题。
什么是基于概念瓶颈的预处理方法，它有什么优势？
基于概念瓶颈的预处理方法改善了肺癌检测的分类性能，并生成了更可靠的临床相关解释，解决了现有技术在医疗数据上解释能力较差的问题。
研究中如何评估医学图像分类中的偏差演化？
通过使用领域特定的公平度量，评估反复学习策略在医学图像分类任务中的偏差演化，发现伪标签策略具有更小的偏差。
引入平衡分类损失和分布边际损失有什么效果？
引入平衡分类损失和分布边际损失有效缓解了医学数据集中不平衡导致的分类器偏见和遗忘现象，实验结果证明了该方法的优越性。
细粒度学习在自动放射学诊断中的重要性是什么？
细粒度学习在自动放射学诊断中是必要的，因为正类内部存在显著差异，能够帮助AI系统更有效地学习医学影像中的细粒度信息。
