增强RWKV基础语言模型以实现长序列文本生成

本研究解决了传统RWKV模型在长序列文本生成中上下文建模能力不足的问题。通过引入位置感知卷积移位算子和神经门控信息路由机制，提出了一种新的增强RWKV架构，使模型在长文本生成任务中取得了显著的性能提升。重要发现显示，该模型在ROUGE-L分数上相比基线提高了96.5，同时保持线性计算复杂度，开创了长文本生成领域的新标准。