ONSEP:一种基于大型语言模型的在线神经符号事件预测新框架
💡
原文中文,约1400字,阅读约需4分钟。
📝
内容提要
本文探讨了基于循环事件网络和大型语言模型的时间知识图谱(TKG)预测方法,提出了Graph Hawkes神经网络和对比事件网络等模型,以提高事件预测的准确性和效率。研究表明,结合历史对比学习和条件概率密度函数能显著改善预测性能,尤其在样本有限和事件类型不平衡的情况下。
🎯
关键要点
- 提出了一种使用循环事件网络的方法,通过对已知事实的模型化预测未来事件。
- Graph Hawkes神经网络可以建模动态图序列中的事件发生,并预测未来事件的时间和类型。
- 基于图的时间复杂事件模式表示方法比线性表示方法更优越,具备更高的预测能力。
- 大型语言模型与针对TKG预测深度设计的模型表现相当,且上下文学习可以帮助学习历史不规律的模式。
- Contrastive Event Network (CENET)模型用于在时间知识图推导中区分最有潜力的实体。
- TEILP模型通过将时间知识图谱转换为时间事件知识图谱,显著改善了时间预测的性能,尤其在样本有限和事件类型不平衡的情况下。
- 利用大型语言模型生成事件序列,填补知识图中的知识空白,并发现复杂的结构化知识。
❓
延伸问答
什么是Graph Hawkes神经网络,它的主要功能是什么?
Graph Hawkes神经网络用于建模动态图序列中的事件发生,并预测未来事件的时间和类型。
TEILP模型如何改善时间预测的性能?
TEILP模型通过将时间知识图谱转换为时间事件知识图谱,并引入条件概率密度函数,显著改善了时间预测性能,尤其在样本有限和事件类型不平衡的情况下。
如何利用大型语言模型进行事件序列生成?
大型语言模型可以生成事件序列,填补知识图中的知识空白,并通过模式挖掘发现复杂的结构化知识。
Contrastive Event Network (CENET)模型的主要作用是什么?
CENET模型用于在时间知识图推导中区分最有潜力的实体,基于历史对比学习的训练框架。
基于图的时间复杂事件模式表示方法有什么优势?
基于图的时间复杂事件模式表示方法比线性表示方法更优越,具备更高的预测能力。
文章中提到的上下文学习对事件预测有什么影响?
上下文学习可以帮助大型语言模型学习历史不规律的模式,从而提高事件预测的准确性。
➡️