序列建模用交流发电机
原文中文,约500字,阅读约需2分钟。发表于: 。此篇论文介绍了交替器(alternators),一种新颖的非马尔可夫动力学模型家族,用于序列分析。交替器包括观测轨迹网络(OTN)和特征轨迹网络(FTN)两个神经网络,通过在观测空间和特征空间之间交替输出样本来学习数据的动态特征。交替器具有多种用途,可用作动态潜变量生成模型或序列预测器,能揭示复杂时序数据中的潜在动力学,准确预测和填补缺失数据,并生成新的轨迹。本文通过三个应用展示了交替器的能...
研究者提出了Rough Transformer模型,用于处理医疗背景下的长程依赖问题。该模型利用多视角签名注意力来增强原始注意力,并捕捉局部和全局依赖关系。实验证明,Rough Transformers在时间序列任务中表现优于传统模型,计算代价较低。