自洽的共形预测
内容提要
该文综述了符合性预测在机器学习不确定性量化中的研究进展，包括无需分布假设生成置信区间、辅助人机协作决策、提升自主决策安全性及应对数据分布漂移，并介绍了其在计算机视觉、自然语言处理等领域的应用与理论边界。
延伸解读
共形预测的核心优势
共形预测无需分布假设或模型假设，能为任何预训练模型生成100%正确性的置信区间。这意味着无论底层模型是神经网络还是其他算法，都可以获得可靠的预测不确定性量化，从而提升决策的可靠性。
人机协作中的实际价值
随机对照试验表明，提供确定度集合能有效辅助人类决策，对人机合作和AI团队非常有帮助。这提示在需要人类与AI协同的场景中，量化不确定性可以改善合作效果。
应对数据分布漂移的进展
针对数据分布漂移问题，研究者提出了加权分位数和随机化技术，使共形预测在数据点不可交换时仍保持鲁棒性，并在可交换情况下维持相同的覆盖率保证。这扩展了共形预测在动态环境中的适用性。
理论边界与性能依赖
研究推导了条件概率预测集平均大小的上界，揭示了其与校准数据量、目标可靠性和基础预测器泛化性能的关系。这有助于理解共形预测的局限性，并为实际应用中的参数选择提供理论指导。
Q&A
共形预测是什么？它有什么主要优点？
共形预测是一种无需分布假设或模型假设，可用于任何预训练模型（如神经网络）生成100%正确性置信区间（信赖区间）的方法。其主要优点包括：不依赖分布假设、适用于任何模型、能提供可靠的置信区间。
共形预测如何帮助人机协作决策？
通过提供确定度集合来量化模型的不确定性，共形预测对人类决策有辅助作用。研究表明，使用确定度集合量化模型不确定性对于人机合作决策和人工智能团队非常有帮助。
共形预测在哪些领域有应用？
共形预测在计算机视觉、自然语言处理、深度强化学习以及地球观测等领域有应用。例如，在计算机视觉中可用于ImageNet分类和Cityscapes图像分割等任务。
共形预测如何处理数据分布漂移？
通过引入加权分位数来抵御数据分布漂移的影响，同时设计一种新的随机化技术，允许不对称处理数据点的算法。实验表明，该方法在数据点不可交换的情况下具有较高的鲁棒性，并且在数据点可交换情况下达到了与现有方法相同的覆盖率保证。
符合性决策理论是什么？它有什么作用？
符合性决策理论是一个框架，用于在机器学习预测存在不完美的情况下生成安全的自主决策，无需对世界模型做任何假设，从而得到具有低风险的可靠决策。
基于特征空间的符合性预测方法有什么优势？
基于特征空间的符合性预测方法利用深度学习的归纳偏差将方法扩展到语义特征空间，从理论上证明其在温和假设下优于传统方法，并且可以与其他自适应符合性预测方法结合。在ImageNet分类和Cityscapes图像分割等大规模任务中证明了其最佳性能。
