WeShap: 使用 Shapley 值对弱监督源进行评估
内容提要
本文综述了程序化弱监督（PWS）的重要进展，介绍了相关方法及其在有限标记数据中的应用，探讨了关键挑战和未来研究方向。研究提出了新框架PWSHAP和概率Shapley值，以提高机器学习模型的性能和效率，减轻手动标注负担。
延伸解读
PWSHAP 的针对性影响评估
PWSHAP 框架专注于评估复杂结果模型中二元变量（如治疗）的针对性影响。它结合因果途径和 Shapley 值，能够进行本地偏差和中介分析，并量化本地效应修改。该方法还保持对敌对攻击的鲁棒性，为在弱监督场景下理解变量影响提供了可靠工具。
概率 Shapley 值提升模型可信度
概率 Shapley 值（P-Shapley）通过构建基于概率分类器的类概率效用函数，量化每个数据点对分类器的边际贡献。它提供几种置信度校准的激活函数，有助于评估数据重要性，从而构建高可用性和可信赖的机器学习模型。这一进展对于数据估值和模型调试具有重要意义。
高效近似 Shapley 值加速评估
针对数据 Shapley 值计算成本高的问题，研究者提出了一种更高效的近似方法。该方法利用机器学习问题的结构性质，在随机梯度下降和凸、非凸损失函数中证明了近似准确性收敛性。实验表明，在保持近似价值和排名的同时，速度最高提升 9.9 倍，尤其在使用小子集精确评估预训练网络时效率更高。
弱监督自动标注减轻人工负担
基于生成模型的自动标注方法通过弱监督学习减轻手动标注负担，取得了比现有方法更好的性能表现，提高了机器学习项目的生产效率。这体现了程序化弱监督在有限标记数据场景下的实用价值，为降低标注成本提供了可行路径。
Q&A
程序化弱监督（PWS）是什么？
程序化弱监督（PWS）是一种学习范式，旨在利用有限标记数据进行有效的机器学习。
PWSHAP框架的主要功能是什么？
PWSHAP框架用于评估复杂结果模型中二元变量的有针对性影响，并保持对敌对攻击的鲁棒性。
概率Shapley值（P-Shapley）有什么应用？
概率Shapley值（P-Shapley）用于量化每个数据点对概率分类器的边际贡献，以提高机器学习模型的可用性和可信赖性。
如何通过弱监督学习减轻手动标注的负担？
通过基于生成模型的自动标注方法，弱监督学习可以减少手动标注的需求，提高机器学习项目的生产效率。
近似数据Shapley值的方法有什么优势？
这种方法显著提高了近似速度和评估效率，最高可达9.9倍，同时保持数据的近似价值和排名。
LLpowershap方法的特点是什么？
LLpowershap是一种基于损失的Shapley值特征选择方法，能够识别更多有信息特征且输出噪声特征较少。
