大型语言模型的时间符号化知识获取
内容提要
本文综述了利用提示学习增强大语言模型知识能力的多项研究，涵盖知识图谱增强、零样本问答、知识图谱构建和少样本分类。研究表明，优化提示策略能显著提升模型性能，小语言模型结合提示学习在特定领域也具潜力，提示工程对零样本任务尤为关键。
延伸解读
知识增强与提示学习的协同效应
文章指出，通过提示学习将外部知识（如知识图谱）注入大语言模型，能显著提升零样本问答性能，平均提高达48%。这表明提示不仅是任务指令，更是知识整合的桥梁。对于实践者，在缺乏标注数据的场景下，结合知识检索与提示设计可能比单纯微调更高效。
小模型在特定领域的潜力与局限
研究显示，小语言模型（如220M参数的T5-base）结合提示学习，在少样本设置下仅用15%标注数据即可达到约75%准确率。然而，在零样本设置中，即使优化提示，小模型准确率仍远低于大模型。这提示我们：小模型适合有少量标注的领域任务，但零样本场景仍需大模型或更复杂的提示工程。
提示工程在零样本任务中的关键作用
文章强调，在零样本设置下，提示策略对分类准确性影响显著，不同提示可导致准确率和F1分数差异超过10%。例如，优化提示后，小模型FLAN-T5-large的准确率提升近13%。因此，在实际应用中，投入精力设计提示可能比更换模型带来更大收益，尤其是在无法获取标注数据时。
知识图谱构建与提示学习的结合
多项研究利用提示学习进行知识图谱构建，如通过迭代提示和零样本学习解决核心问题，或使用GPT-3结合多种提示技巧提升预测质量。这些方法展示了提示在结构化知识提取中的可扩展性。对于需要构建领域知识库的团队，提示学习提供了一种低资源、可迭代的替代方案。
Q&A
KAPING方法是如何增强大语言模型的知识能力的？
KAPING通过在LLM的输入中添加知识，具体是在知识图上检索相关事实来改善零样本闭书问答任务性能。经验证，基于事实的知识增强方法相对于相关零样本基线的平均表现提高达48%。
小语言模型结合提示学习在特定领域有什么潜力？
小语言模型（如220M参数的T5-base）结合提示学习在少样本设置下，使用有限标记数据（高达全数据的15%）可实现约75%的准确性。在零样本设置中，FLAN-T5-large使用优化提示后准确性超过31%，比未优化提示提升近13%。
提示工程对零样本任务有多重要？
提示工程对零样本任务尤为关键。在计算社会科学分类任务中，不同提示策略可显著影响分类准确性，准确性和F1分数差异超过10%。在零售领域零样本设置中，优化提示使FLAN-T5-large的准确性提升近13%。
有哪些方法利用提示学习进行知识图谱构建？
有研究提出基于生成式语言模型的知识图谱生成方法，通过迭代提示和零样本学习等策略解决核心问题。ProP方法利用GPT-3进行知识库构建，结合多种提示技巧，强调了手动提示的重要性、变长回答集的有效用处以及实体别名字典的效用。
Prompt2Model方法有什么特点？
Prompt2Model方法可以使用少量的提示，训练出性能优异、体积小700倍的特定目的模型，用于自然语言处理任务。
在零样本设置下，大语言模型与微调的小模型相比表现如何？
在计算社会科学分类任务的零样本设置下，当前LLMs（如ChatGPT和OpenAssistant）无法与较小的经过微调的基线变压器模型（如BERT）的性能匹配。
