基于 Prompt 的时空图迁移学习
内容提要
本文提出了多种新颖的生成式预训练框架，以解决智能城市应用中的数据稀缺问题。GPDiff 和 MultiGPrompt 方法在交通速度预测和人群流动预测任务中表现优异，展示了良好的适应性和高效性。此外，研究引入了时空提示网络（STPN）和图形模型的多任务提示方法，提升了视频理解和图形任务的性能，具有广泛的应用潜力。
延伸解读
从生成式预训练到多任务提示：方法演进
文章梳理了多个基于提示的时空图迁移学习框架，从GPDiff的生成式预训练，到MultiGPrompt的多任务提示，再到GraphPrompt的统一任务模板，体现了该领域从单一任务适应向多任务、通用化方向发展的趋势。这些方法均旨在利用预训练知识，通过提示机制高效迁移到下游任务，减少对大量标注数据的依赖。
参数高效与时间泛化：PromptST与时间域泛化方法
PromptST通过轻量级时空指令调优和参数共享，在预训练和指令调优两阶段中平衡共同知识与特定属性捕捉，并在未见属性上展现可迁移性。另一项时间域泛化工作则强调参数高效、时间高效，且训练时无需目标域数据，通过学习全局、领域特定和潜在时间动态提示来适应时间漂移，适用于分类、回归和预测任务。
视频理解中的时空提示网络：简洁而通用
针对视频帧质量下降导致的信息损失，STPN通过动态调整骨干网络输入特征来提取稳健视频特征，避免了复杂集成模块。其设计不包含任务特定模块，因此易于推广到视频对象检测、实例分割和目标跟踪等多种任务，并在三个数据集上取得最先进性能，显示了其通用性和高效性。
异构图与动态图上的提示框架扩展
HetGPT作为后训练提示框架，通过多视图邻域聚合捕捉异构图复杂结构，提升了异构图神经网络在半监督节点分类上的性能。TIGPrompt则针对时序交互图，使用时序感知提示和“预训练-基于提示的微调”范式，解决预训练与下游预测中的时间差异和语义分歧问题，扩展了提示方法在动态图上的应用。
Q&A
GPDiff 框架的主要功能是什么？
GPDiff 框架旨在解决智能城市应用中的数据稀缺问题，特别是在交通速度预测和人群流动预测任务中表现优异。
MultiGPrompt 是什么，它的优势是什么？
MultiGPrompt 是一种多任务预训练和提示框架，通过多个预设任务获取更全面的预训练知识，能够在少样本情境下指导后续任务。
时空提示网络（STPN）如何提升视频理解性能？
STPN 通过动态调整输入特征，能够高效提取视频特征，适用于多种视频理解任务，并在多个数据集上取得了最先进的性能。
PromptST 的主要特点是什么？
PromptST 通过时空变换器和参数共享训练机制处理不同时空属性之间的共同知识，增强对特定时空特征的捕捉能力。
GraphPrompt 如何提升预训练和提示的性能？
GraphPrompt 通过统一预训练和下游任务，并使用可学习的提示帮助下游任务定位最相关的知识，从而提升预训练和提示的性能。
这些新框架在智能城市应用中有哪些潜在应用？
这些新框架可以用于交通预测、人群流动分析和视频理解等任务，推动智能城市建设和管理。
