PICASO：具有状态空间模型的置换不变上下文组合

本研究解决了在推理时如何有效提供大型语言模型相关上下文知识的问题。我们采用了一种新的方法，通过状态空间模型将多个上下文信息组合成一个有效的状态，从而提高生成质量，同时实现了上下文顺序的置换不变性。研究表明，该方法在保持与最强基线相当的性能的同时，平均实现了5.4倍的速度提升。