常见随机神经网络在可靠临床决策支持方面的不足
内容提要
该文综述深度学习不确定性估计方法，包括贝叶斯神经网络、蒙特卡罗采样、集成与MC-dropout、狄利克雷主观逻辑及证据先验，应用于医学预测、临床决策和自主系统。研究强调不确定性对模型可靠性、稳定性及识别分布外样本的重要性，并提出可扩展、鲁棒的改进框架。
延伸解读
不确定性估计为何对临床决策至关重要
文章指出，高度不确定的实例对模型性能有害，通过研究预测和不确定性的分布，可以识别需要及时干预的患者群体。在临床决策支持中，模型不仅需要给出预测，还需评估该预测的可靠性，以确定对个体患者的决策是否可信。这凸显了不确定性估计在提升模型安全性和实用性方面的核心作用。
不同不确定性估计方法的比较与选择
文章比较了集成和MC-dropout两种可扩展方法，结果表明集成方法能提供更可靠和实用的不确定性估计。此外，基于贝叶斯神经网络和蒙特卡罗采样的方法具有与网络结构和任务无关的优点，可直接应用于已训练模型。而狄利克雷主观逻辑方法则能直接推断预测不确定性，在检测分布外样本和对抗扰动方面表现突出。读者可根据实际需求选择合适方法。
模型稳定性的挑战与应对
文章提到，在电子健康记录上训练的相同模型，即使使用相同训练数据重复训练，也会产生显著不同的结果。这种不稳定性可能影响临床决策支持的可靠性。因此，文章提出了衡量模型稳定性的指标以及提高稳定性的应对策略，提醒研究者和从业者在部署模型时需关注其稳定性，以确保决策支持系统的一致性和可信度。
Q&A
贝叶斯神经网络如何帮助识别需要及时干预的患者？
基于贝叶斯神经网络的深度学习模型可以预测由于数据噪音引起的不确定性。通过研究模型预测和不确定性的分布，可以识别一组高度不确定的实例，这些实例对模型性能有害，从而帮助识别需要及时干预的患者。
集成方法和MC-dropout在不确定性估计上哪个更可靠？
根据研究比较，集成方法提供更可靠和实用的不确定性估计，优于MC-dropout。
如何检测超出分布的查询和对抗性扰动？
通过在类概率上使用狄利克雷分布对主观逻辑进行建模，并使用确定性神经网络从数据学习收集导致预测的证据，可以直接推断出预测的不确定性。这种方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。
什么是基于贝叶斯信任网络和蒙特卡罗采样的不确定性估计方法？
该方法用基于贝叶斯信任网络和蒙特卡罗采样来对神经网络进行不确定性估计，具有与神经网络结构和任务无关、不需要优化进程更改的特点，能够应用于已经训练好的结构，并有效提高准确性。
如何提高电子健康记录上训练模型的稳定性？
研究证明相同模型在相同训练数据上的重复训练会产生显著不同的结果，并提出了衡量模型的稳定性和提高模型稳定性的应对策略。
有哪些方法可以估计连续目标的不确定性并区分偶然和认知不确定性？
通过在原始高斯似然函数上放置证据先验，训练神经网络以估计连续目标及其相关证据，可以学习偶然和认知不确定性。该方法在多个基准测试中展示了良好校准的不确定度测量，可扩展到复杂计算机视觉任务，并对对抗性和OOD测试样本具有鲁棒性。
