用适当评分规则量化随机和知识不确定性
内容提要
本研究提出了一个基于统计推理的框架，用于区分和量化预测中的随机不确定性与认知不确定性。通过贝叶斯推理和新的不确定性度量，探讨了机器学习中不确定性的现状及其应用，强调了可靠的不确定性表示在可信机器学习系统中的重要性。
延伸解读
不确定性区分的核心框架
文章提出基于统计推理的通用框架，利用统计风险区分随机不确定性（aleatoric）和认知不确定性（epistemic），并通过适当评分规则进行量化。该框架不仅创建新的不确定性度量，还澄清它们之间的关系，为预测模型在不同领域的应用提供理论基础。
贝叶斯推理的实践整合
为使框架在实践中可行，文章提出将贝叶斯推理纳入其中，并讨论近似方法的性质。贝叶斯方法常用于量化生成论和认知性不确定性，但证据深度学习等备选方法流行，文章强调优化二阶损失函数的困难，并指出认知不确定性度量的相对性。
校准误差的估计与选择
文章提出一种方法，可以一致且渐近无偏地估计所有适当的校准误差和改进术语，并验证了估计器的特性。建议后续校准方法的选择应基于所关注的特定校准误差，这为可信机器学习系统中的不确定性表示提供了实用指导。
强化学习中的不确定性应用
文章研究了强化学习中的不确定性，提出一个框架通过学习的Q值区分和估计源于有限数据的认识不确定性和源于随机环境的aleatoric不确定性，并引入考虑不确定性的DQN算法。该算法表现出安全的学习行为，并在MinAtar测试中表现出优越性能。
Q&A
如何区分随机不确定性和认知不确定性？
本研究提出了一个基于统计推理的框架，通过贝叶斯推理和适当的得分规则来区分和量化这两种不确定性。
Monte Carlo Dropout 算法的作用是什么？
Monte Carlo Dropout 算法可以显式量化神经网络输出的不确定性，并用于解释模型的复杂现象，如情感识别。
贝叶斯方法在不确定性量化中的作用是什么？
贝叶斯方法用于量化生成论和认知性不确定性，提供了一种可靠的框架来处理不确定性。
如何评估机器学习中的不确定性？
研究通过随机森林和决策树等方法量化学习器的混淆不确定性及知识不确定性，并与深度神经网络进行比较。
什么是确立不确定性采样？
确立不确定性采样是一种策略，用于区分和衡量确立不确定性与偶发不确定性，实验表明其效果良好。
强化学习中如何处理不确定性？
提出了一种考虑不确定性的 DQN 算法，该算法能够区分源于有限数据的认知不确定性和源于随机环境的随机不确定性。
