你的分类不确定性有多分离？
原文中文，约1200字，阅读约需3分钟。
📝
内容提要
本文探讨了机器学习中的不确定性，区分了确立不确定性和偶发不确定性，并提出了新的不确定性量化方法。研究表明，显式考虑不确定性可以提升模型性能，强调了贝叶斯方法与证据深度学习的应用。实验结果揭示了不同不确定性估计器的表现，为未来研究提供了指导。
🔎
延伸解读
不确定性分类的演进
文章梳理了机器学习中不确定性研究的时间线，从2019年区分偶然与认知不确定性，到2022年提出量化方法，再到2024年发现解缠困难。这显示该领域从理论区分逐步转向实践挑战，读者可借此把握研究趋势。
解缠不确定性的现实挑战
2024年2月的研究在ImageNet上评估多个任务，发现尽管理论上有前景，但实际中尚未实现偶然与认知不确定性的解缠。这提醒从业者，现有估计器可能无法可靠区分不确定性类型，需谨慎应用。
证据深度学习的局限与改进
文章指出证据深度网络产生的认知不确定性有时违反预期，引发准确性质疑。2024年7月提出的冲突损失函数旨在满足认知不确定性的两个要求，同时不损害深度集成的性能或校准性，为改进提供了方向。
实践中的估计器选择
实验表明不同不确定性估计器在特定任务上表现各异，且Ensembles能提供整体最佳解决方案，并建议采样softmax的超参数N大于100。这为从业者选择方法提供了具体参考，强调需根据任务权衡。
❓
Q&A
什么是确立不确定性和偶发不确定性的区别？
确立不确定性是指模型对未知参数的信心，而偶发不确定性则是由于数据本身的随机性引起的。
如何量化机器学习中的不确定性？
可以通过新的不确定性量化方法来区分偶发不确定性和确立不确定性，并使用合适的评分规则进行测量。
显式考虑偶发不确定性对模型性能有什么影响？
显式考虑偶发不确定性可以显著改善贝叶斯神经网络的性能。
贝叶斯方法在不确定性量化中有什么应用？
贝叶斯方法被广泛用于量化生成论和认知性不确定性，提供可靠的不确定性表示。
实验结果如何揭示不同不确定性估计器的表现？
实验表明，不同不确定性估计器在特定任务上表现不同，为未来研究提供了指导。
证据深度学习方法在不确定性量化中有什么新理论洞见？
证据深度学习方法强调优化二阶损失函数的困难，并提供了对认知不确定性度量的新见解。
🏷️
