ONSEP:一种基于大型语言模型的在线神经符号事件预测新框架

💡 原文中文,约1400字,阅读约需4分钟。
📝

内容提要

本文探讨了基于循环事件网络和大型语言模型的时间知识图谱(TKG)预测方法,提出了Graph Hawkes神经网络和对比事件网络等模型,以提高事件预测的准确性和效率。研究表明,结合历史对比学习和条件概率密度函数能显著改善预测性能,尤其在样本有限和事件类型不平衡的情况下。

🎯

关键要点

  • 提出了一种使用循环事件网络的方法,通过对已知事实的模型化预测未来事件。
  • Graph Hawkes神经网络可以建模动态图序列中的事件发生,并预测未来事件的时间和类型。
  • 基于图的时间复杂事件模式表示方法比线性表示方法更优越,具备更高的预测能力。
  • 大型语言模型与针对TKG预测深度设计的模型表现相当,且上下文学习可以帮助学习历史不规律的模式。
  • Contrastive Event Network (CENET)模型用于在时间知识图推导中区分最有潜力的实体。
  • TEILP模型通过将时间知识图谱转换为时间事件知识图谱,显著改善了时间预测的性能,尤其在样本有限和事件类型不平衡的情况下。
  • 利用大型语言模型生成事件序列,填补知识图中的知识空白,并发现复杂的结构化知识。

延伸问答

什么是Graph Hawkes神经网络,它的主要功能是什么?

Graph Hawkes神经网络用于建模动态图序列中的事件发生,并预测未来事件的时间和类型。

TEILP模型如何改善时间预测的性能?

TEILP模型通过将时间知识图谱转换为时间事件知识图谱,并引入条件概率密度函数,显著改善了时间预测性能,尤其在样本有限和事件类型不平衡的情况下。

如何利用大型语言模型进行事件序列生成?

大型语言模型可以生成事件序列,填补知识图中的知识空白,并通过模式挖掘发现复杂的结构化知识。

Contrastive Event Network (CENET)模型的主要作用是什么?

CENET模型用于在时间知识图推导中区分最有潜力的实体,基于历史对比学习的训练框架。

基于图的时间复杂事件模式表示方法有什么优势?

基于图的时间复杂事件模式表示方法比线性表示方法更优越,具备更高的预测能力。

文章中提到的上下文学习对事件预测有什么影响?

上下文学习可以帮助大型语言模型学习历史不规律的模式,从而提高事件预测的准确性。

➡️

继续阅读