非邻居也在克里金中起作用：一种新的对比原型学习
内容提要
该文综述了对比学习与图方法的多项研究：KCN结合图卷积与Kriging预测；NNCLR以最近邻作正样本；NCL利用邻居嵌入对比对提升图推荐；CSP通过地理标记图像自监督预训练；SNCLR与PCL改进特征表示；KnowCL结合知识图谱预测城市图像。
延伸解读
从邻居到非邻居：对比学习样本策略的扩展
文章综述的多项研究显示，对比学习正从依赖数据增强转向利用数据间关系。NNCLR将最近邻作为正样本，NCL将邻居嵌入对比对，SNCLR采用软近邻，这些方法都突破了传统二元实例判别，强调非邻居或软邻居也能提供更丰富的语义信号。这提示读者，设计对比学习任务时，样本选择策略可能比变换设计更关键。
地理空间数据中的自监督预训练实践
CSP和KnowCL两项工作都针对地理标记图像。CSP通过编码地理信息设计时空正对，缩小了对比学习与监督学习的差距；KnowCL结合知识图谱与卫星、街景影像，在可持续发展目标预测上精度提升超过30%。这表明，对于带有位置信息的数据，将地理结构融入预训练任务能有效提升下游性能，是值得关注的方向。
Kriging与图卷积的结合：KCN的启示
KCN将图卷积网络与Kriging方法结合，直接利用邻近观测值进行预测。这不同于纯数据驱动的图神经网络，而是引入了地统计学的空间插值思想。对于空间预测任务，这种混合方法可能在小样本或空间自相关强的场景下更有优势，但也需注意其计算复杂度和对变异函数选择的敏感性。
原型对比学习：从实例区分到语义结构编码
PCL通过引入原型作为潜在变量，将数据的语义结构编码到嵌入空间，提出的ProtoNCE损失在多个基准上优于实例对比方法，并在低资源迁移学习上改进显著。这提示读者，对比学习不应只关注实例级区分，聚类级的原型信息能带来更好的泛化能力，尤其当标注数据有限时。
Q&A
KCN 是什么？它如何结合图卷积网络和 Kriging 方法？
KCN 是 Kriging 卷积网络，它结合了图卷积网络和 Kriging 方法，通过直接利用邻近的观测值以及包含个别的 Kriging 方法来生成预测。
NNCLR 与传统的对比学习有什么不同？
NNCLR 将数据集中最近邻作为正样本，而不是图像的不同视角，能提供比预定义变换更多的语义变化，在 ImageNet 分类和迁移学习基准测试中超越现有先进方法，且鲁棒性更好，对数据变换依赖性更小。
NCL 如何解决图协同过滤中的数据稀疏问题？
NCL 将邻居嵌入到对比对中，从而减少数据稀疏性，在五个公共数据集上实验证明有效，尤其在 Yelp 和 Amazon-book 数据集上分别获得 26% 和 17% 的性能提升。
CSP 是什么？它如何处理地理标记图像？
CSP 是 Contrastive Spatial Pre-Training，一种基于自监督学习的框架，用于处理大量具有地理标记信息的图像，通过对地理信息进行编码和对比学习，提高模型在图像分类任务中的性能。
PCL 如何将语义结构编码到嵌入空间中？
PCL 通过增加原型作为潜在变量来寻找最大似然估计，提出基于对比学习的通用损失函数 ProtoNCE loss，不仅学习低级特征，还隐含地将数据的语义结构编码到学习的嵌入空间中。
KnowCL 模型在哪些任务上提升了性能？提升幅度如何？
KnowCL 模型基于知识图谱和知识注入对比学习，能够有效促进城市图像的表征学习和预测，结合卫星和街景影像进行可持续发展目标的预测，相较基线模型预测精度有超过 30% 的提高。
