对称幂变压器的服从变换

本研究提出了一种新的服从-sympow变压器，旨在解决传统对称幂变压器在处理长文本时的信息保留不足问题。通过数据依赖的乘法门控和自适应旋转嵌入技术，该方法能够动态释放和存储容量，初步实验显示其在训练和评估中表现优异，有效克服了对称幂变压器的局限性。