关于深度状态空间模型学习动态的理论
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本文研究了线性状态空间模型的学习动力学,分析了数据的协方差结构、潜在状态大小和初始化对参数演变的影响,建立了一维状态空间模型和深度线性前馈网络动力学之间的联系,分析了潜在状态过度参数化对收敛时间的影响,并拓展到具有非线性连接的深度状态空间模型的研究。这项工作是深度状态空间模型学习动力学理论的一步。
🎯
关键要点
-
研究线性状态空间模型的学习动力学。
-
分析数据的协方差结构对参数演变的影响。
-
探讨潜在状态大小和初始化对参数演变的影响。
-
建立了一维状态空间模型与深度线性前馈网络动力学之间的联系。
-
分析潜在状态过度参数化对收敛时间的影响。
-
拓展研究到具有非线性连接的深度状态空间模型。
-
这项工作是深度状态空间模型学习动力学理论的一步。
➡️