基于知识选择的主题到文章生成
内容提要
该文汇总多项文本生成研究，包括情感可控主题生成器SCTKG、两步生成模型、数据到文本生成模型、TegTok知识增强、内容规划架构、TARG主题响应生成、序列到序列扩展方法、内容转移技术、搜索学习方法及对比学习短文本匹配模型，旨在提升主题相关性、流畅性、知识选择与生成质量。
延伸解读
知识选择在文本生成中的核心作用
文章汇总的多项研究均围绕知识选择展开，如SCTKG利用主题知识图谱增强解码器，TARG改进相关知识背景检测，以及TegTok引入任务特定和开放世界知识。这些工作表明，有效筛选和利用外部知识是提升生成文本主题相关性、流畅性和知识准确性的关键。读者可关注不同模型如何平衡知识引入与生成质量。
从规划到实现的生成架构演进
文章提及的两步生成模型、内容规划架构以及数据到文本生成模型，都采用了先规划后实现的策略。例如，句子级内容规划器决定关键词组和语言风格，再由表面实现解码器生成文本。这种分解方式有助于提高生成文本的连贯性和可控性，并在多个任务中得到验证。
评估方法与数据集的多样性
文章涉及的研究在多个数据集上进行了评估，包括Reddit、维基百科、RotoWire、E2E、WikiBio以及两个中文文本匹配数据集。评估指标涵盖自动化度量与人类评估，如TARG在知识选择和响应生成上取得最新成果，搜索学习方法在E2E和WikiBio上实现高性能。这反映了文本生成评估的多元化和任务依赖性。
Q&A
SCTKG是什么？它有什么特点？
SCTKG是一种情感可控的主题到短文生成器，采用条件变分自动编码器框架，利用主题知识图谱增强解码器，可有效生成与主题相关、流畅和多样化的短文。
两步生成模型是如何工作的？在哪些任务上得到验证？
两步生成模型通过端到端训练，首先由句子级内容规划器决定涵盖的关键词组和所需的语言风格，然后由表面实现解码器生成相关和连贯的文本。该模型在Reddit的说服性论证、维基百科的正常和简单版本的段落生成以及科学文章的摘要生成等任务中得到验证。
TegTok方法如何改善文本生成？
TegTok通过引入任务特定和开放世界知识，进一步改善文本生成的性能，该方法可以在预训练语言模型（PLMs）上学习如何更好地生成对话和问题。
TARG模型是什么？它改进了什么？
TARG是一种基于主题的响应生成模型，改进了基于词或句子相似度来检测相关知识背景的方法，用主题信息来提高对话历史的理解，在知识选择和响应生成上取得了最新成果。
内容转移技术是什么？它有什么应用？
内容转移技术可以在长文本生成中通过引用外部文本源（例如新闻报道），生成适合文本上下文并富含内容的下一句话。在Wikipedia数据上的实验显示出明显改进，并发布了640K Wikipedia参考句子及源文章的基准数据集。
如何解决data-to-text生成中的低语义覆盖率问题？
该论文提出一种搜索和学习的方法来解决低语义覆盖率问题，进而提高data-to-text生成中预训练语言模型的效率，并在E2E和WikiBio数据集上实现了高性能。
