ONSEP：一种基于大型语言模型的在线神经符号事件预测新框架
内容提要
本文探讨了基于循环事件网络和大型语言模型的时间知识图谱（TKG）预测方法，提出了Graph Hawkes神经网络和对比事件网络等模型，以提高事件预测的准确性和效率。研究表明，结合历史对比学习和条件概率密度函数能显著改善预测性能，尤其在样本有限和事件类型不平衡的情况下。
延伸解读
时间知识图谱预测的技术演进
文章梳理了从2019年到2024年时间知识图谱预测领域的关键进展。早期方法如循环事件网络和Graph Hawkes神经网络侧重建模事件序列与动态图，随后研究转向图结构的事件模式表示和对比学习。2023年后，大型语言模型被引入，并出现TEILP等逻辑推理框架，通过转换图谱和引入条件概率密度函数提升预测性能。这一脉络显示该领域从纯结构建模向结合语言模型与逻辑规则的方向发展。
大型语言模型在事件预测中的角色
文章指出，大型语言模型在时间知识图谱预测上表现与专门设计的先进模型相当，且无需显式捕获结构和时态信息。上下文学习能帮助模型学习历史不规律模式，超越基于共同或最新信息的简单预测。此外，使用数值索引替代实体名称也能达到接近性能。这表明LLM具有作为通用预测工具的潜力，但文章也提到其存在流行度偏见和长尾问题，需通过微调和检索模块缓解。
TEILP框架的改进与优势
TEILP通过将时间知识图谱转换为时间事件知识图谱，并利用可微分随机游走进行时间预测，引入了条件概率密度函数和与查询区间相关的逻辑规则。在五个基准数据集上，TEILP在提供可解释解释的同时显著改进了基线模型。尤其在训练样本有限、事件类型不平衡以及仅基于过去事件预测未来时间等场景下，TEILP在健壮性方面表现更优，为时间预测提供了新思路。
Q&A
什么是Graph Hawkes神经网络，它的主要功能是什么？
Graph Hawkes神经网络用于建模动态图序列中的事件发生，并预测未来事件的时间和类型。
TEILP模型如何改善时间预测的性能？
TEILP模型通过将时间知识图谱转换为时间事件知识图谱，并引入条件概率密度函数，显著改善了时间预测性能，尤其在样本有限和事件类型不平衡的情况下。
如何利用大型语言模型进行事件序列生成？
大型语言模型可以生成事件序列，填补知识图中的知识空白，并通过模式挖掘发现复杂的结构化知识。
Contrastive Event Network (CENET)模型的主要作用是什么？
CENET模型用于在时间知识图推导中区分最有潜力的实体，基于历史对比学习的训练框架。
基于图的时间复杂事件模式表示方法有什么优势？
基于图的时间复杂事件模式表示方法比线性表示方法更优越，具备更高的预测能力。
文章中提到的上下文学习对事件预测有什么影响？
上下文学习可以帮助大型语言模型学习历史不规律的模式，从而提高事件预测的准确性。
