开放世界机器学习：回顾与新展望
内容提要
该文综述开放世界机器学习，聚焦增量学习、未知类别拒绝与OOD检测。研究指出数据、模型架构和OOD数据选择会严重影响检测性能，误检率可超70%，对抗扰动下误报率达100%。文章提出元学习、鲁棒分类器及融合持续学习、主动学习和开放识别的方法，以平衡开放空间风险与经验风险，提升模型可靠性。
延伸解读
开放世界机器学习的核心挑战
文章指出，开放世界机器学习需同时应对增量学习、未知类别拒绝和OOD检测。其中，数据、模型架构和OOD数据选择会严重影响检测性能，误检率可超70%，对抗扰动下误报率达100%。这揭示了开放环境下模型可靠性的脆弱性，也说明单纯追求闭集精度不足以应对真实世界的动态变化。
从元学习到融合方法的演进
文章回顾了多种技术路线：2018年提出元学习方法，仅需训练一个元分类器即可处理增量学习和未知类别拒绝；2020年提出结合鲁棒分类器和OOD检测以平衡检测与适应性；2020年还有工作融合持续学习、主动学习和开放式识别，以优化避免遗忘、数据筛查和任务选择。这些进展显示研究正从单一模块转向系统化融合。
开放空间风险与经验风险的平衡
文章强调，开放世界识别需平衡“开放空间风险”与经验风险。2014年提出的Nearest Non-Outlier算法通过分组线性变换特征空间距离单调递减函数的和，来可靠处理大规模图像数据集。这为评估开放世界识别系统提供了协议，也说明风险平衡是提升模型在未知环境中可靠性的关键设计原则。
未来方向：鲁棒性与可信赖性
文章展望了未来标准：模型应能有效保持知识、有选择地关注信息性数据并加速未来学习。同时，研究开始关注开放世界中的信任度，探索神经程序以增强可解释性、环境福祉任务界面等可信赖属性。这表明开放世界机器学习正从性能导向转向兼顾鲁棒性、适应性和可信赖性的综合目标。
Q&A
开放世界机器学习主要解决哪些核心问题？
开放世界机器学习主要解决增量学习、未知类别拒绝和OOD检测等问题，旨在使模型能够处理未见过的数据和情境。
为什么OOD检测在开放世界机器学习中容易失败？
因为原始数据、模型体系结构和OOD数据等组件的选择会严重影响OOD检测性能，可能导致超过70%的误检率，对于包含22种非故意损坏或对抗性扰动的OOD输入，误报率甚至可达100%。
有哪些方法可以提升开放世界机器学习模型的可靠性？
可以结合鲁棒分类器和OOD检测技术，并融合持续学习、主动学习和开放式识别等方法，以平衡开放空间风险与经验风险，提升模型可靠性。
元学习方法如何解决开放世界学习中的增量学习和未知类别拒绝问题？
元学习方法只需训练一个元分类器，而不需要重新训练元分类器或一个新的分类器来涵盖所有老和新类别，实验证明了其有效性。
开放世界识别问题是如何提出的？
通过对线性变换特征空间距离单调递减函数的和进行分组来解决“开放空间风险”和经验风险之间的平衡，从而提出了开放世界识别问题，并提出了评估协议和Nearest Non-Outlier算法。
开放世界机器学习在风险管理方面面临哪些挑战？
文章提出了两种针对AI“感知挑战”和“认知挑战”的开放世界风险管理挑战，以促进研究解决方案，评估和提高AI代理人管理开放世界风险所需的预测性思维。
