持续采样：发挥序贯蒙特卡罗的潜力
内容提要
本文分析了顺序蒙特卡罗方法（SMC），建立了大数定理和不变原理，提出了适应性SMD方法和pSMC方法，并探讨了其在状态空间模型中的应用。研究表明，NASMC在非线性状态空间模型中显著改善了推断效果，并能够训练潜在变量递归神经网络。此外，提出了SMC^2算法，结合粒子滤波器和MCMC更新，解决了条件概率密度增量问题。
延伸解读
理论基础的建立
文章为顺序蒙特卡罗方法建立了大数定理和不变原理，并引入“加权样本”一致性和渐近正态性的概念。这些理论结果明确了突变和选择过程保留这些属性的条件，为分析更复杂的序列抽样策略提供了基础，也使得在状态空间模型中的应用条件得以放松。
神经自适应序贯蒙特卡洛的进展
提出的NASMC方法利用Kullback-Leibler散度的近似自动适应提议分布，适用于任何参数化的提议分布，并支持在线和批处理变量。实验表明，在非线性状态空间模型中，NASMC显著改善了推断，优于自适应提议方法，包括扩展卡尔曼和无味粒子滤波器。
并行化与算法扩展
完全并行的顺序蒙特卡洛（pSMC）方法具有并行的强缩放性，即当异步进程数量增长时，时间复杂度保持有界。此外，SMC^2算法结合粒子滤波器和MCMC更新，解决了状态空间模型中条件概率密度增量无法计算的问题，为复杂推断提供了新途径。
Q&A
顺序蒙特卡罗方法（SMC）是什么？
顺序蒙特卡罗方法（SMC）是一种用于状态空间模型的推断方法，通过逐步采样来估计概率分布。
NASMC在非线性状态空间模型中的表现如何？
NASMC在非线性状态空间模型中显著改善了推断效果，优于自适应提议方法。
适应性SMD方法的主要特点是什么？
适应性SMD方法使用Kullback-Leibler散度的近似来自动适应提议分布，灵活适用于各种参数化的提议分布。
pSMC方法的优势是什么？
pSMC方法具有完全并行的强缩放性，能够在异步进程数量增加时保持时间复杂度和内存使用有界。
SMC^2算法的主要功能是什么？
SMC^2算法结合了粒子滤波器和MCMC更新，解决了状态空间内条件概率密度增量的问题。
如何使用顺序蒙特卡罗方法进行高维问题的采样？
可以通过使用一系列人工目标密度，结合重采样技术，来提高高维问题中顺序蒙特卡罗方法的效率。
