CAS:一种具有 FCR 控制的在线选择性符合预测的通用算法
内容提要
本文研究了在线不确定性量化,提出了一种自适应后悔最小化算法,扩展了其在时间序列预测和图像分类等任务中的应用。新方法通过交叉验证和基于Transformer的KNN近似,提高了预测的准确性和效率,有效应对数据变化带来的挑战,展示了在多个领域的应用优势。
延伸解读
在线共形预测的自适应后悔最小化
文章提出一种新的自适应后悔最小化算法用于在线共形预测,证明了该方法能实现近似最优的自适应后悔和适当的预测覆盖。这意味着在数据分布随时间变化时,算法仍能保持预测区间的有效性,并在时间序列预测和图像分类等任务上优于现有方法。
扩展至单调损失函数的符合风险控制
研究将符合预测的范畴扩展至控制任何单调损失函数的期望值,并提出符合风险控制过程。在计算机视觉和自然语言处理任务中,该算法被用于限制误差率、图距离和标牌级别F1得分,展示了其在不同损失度量下的通用性。
交叉验证与Transformer近似提升效率
基于交叉验证的新型决策风险控制方法确保从点预测器提取的预测器校准性,减少数据集分割限制并降低平均集合规模。同时,通过基于Transformer的KNN近似构建数据驱动分区,再经Inductive Venn预测器校准,实现了对不确定性的量化和分类模型预测集的标记。
局部覆盖与在线可信预测的改进
局部合规预测框架提供有限样本边际覆盖保证,并在适当假设下提供额外的局部覆盖保证。在线可信预测方法使用衰减步长,在分布稳定时每个时间点的覆盖率接近期望水平,而不仅是序列平均值,显著改进了实际属性。
Q&A
自适应后悔最小化算法的主要应用领域是什么?
该算法主要应用于时间序列预测和图像分类等任务。
新型决策风险控制方法如何提高预测器的校准性?
新型决策风险控制方法通过交叉验证确保从点预测器中提取的预测器的校准性,减少数据集分割限制。
如何通过基于Transformer的KNN近似实现不确定性量化?
通过构建数据驱动的分区,并利用Inductive Venn预测器进行校准,从而实现对不确定性的量化。
局部合规预测的推理框架有什么优势?
局部合规预测框架提供有限样本边际覆盖保证和额外的局部覆盖保证,适用于不同合规得分结构。
自适应符合推断方法如何应对数据变化?
该方法结合预测集和符合推断,能够在黑箱模型中实现长时间内预期的覆盖概率,从而解决数据变化扰动的问题。
在线可信预测方法的创新之处是什么?
该方法使用衰减的步长,能够同时估计总体分位数,并在分布稳定时显著改进覆盖率。