我们提出了一种新颖的方法,通过选择上下文相关的短语来生成文本,并使用语言学启发式方法初始化训练阐述,并通过迭代的自我增强来加强训练阐述。实验证明,我们的模型在各种知识密集型任务上表现出色,并在开放式文本生成中表现出更高的生成质量。我们的模型在 OpenbookQA 上将准确性提高到36.27%,在开放式文本生成中的MAUVE得分提高到81.58%。我们的模型在几个检索增强基准中实现了最佳性能和最低延迟。我们希望我们的工作能够鼓励进一步研究这一新的转变。
完成下面两步后,将自动完成登录并继续当前操作。