研究团队首次从头预训练三模态掩码扩散模型,统一处理文本、图文和音频文本数据,系统分析多模态缩放规律、模态混合比例、噪声调度和批大小影响,提出基于随机微分方程的重参数化方法解耦物理与逻辑批大小,在30亿参数、6.4万亿token规模上于文本生成、文生图和文生语音任务中表现优异。
本研究提出了一种新方法,解决了复杂非线性动态系统处理中的局限性。该方法高效估计多维非线性受控随机微分方程的漂移和扩散系数,并提供理论保证和实际有效性,推动了相关领域的研究进展。
本文探讨了在个体轨迹不可观察的情况下,从观测数据中学习随机微分方程(SDE)的难题。提出了一种新方法,通过时间边际联合估计SDE的漂移和扩散,并引入APPEX算法,有效估计这两个参数及因果图,具有广泛应用潜力。
本文提出了一种新的扩散模型训练方法,结合时间动态信息以增强时序预测能力。通过DiffDA数据同化方法,生成与观测一致的全球大气同化数据,并展示其在偏微分方程求解中的应用潜力。此外,研究探讨了无训练条件扩散模型在随机微分方程建模中的优势,显著提高了预测效率和准确性。
本研究通过网格采样随机微分方程改进连续时间强化学习中的探索问题,特别是在跳跃情况下的应用价值显著。
该研究探讨了深度学习在控制随机微分方程中的应用,提出了一种基于深度算子网络和物理知识学习的算法,旨在解决高维随机控制问题。研究表明,KAN-ODE在建模灵活性、训练速度和准确性方面优于传统方法,具有广泛的科学应用潜力。
本文介绍了一种新的图像合成和编辑方法Stochastic Differential Editing (SDEdit),该方法利用扩散模型和随机微分方程实现高保真图像生成。研究提出的InfEdit编辑方法无需显式反演,优化了内容保留和编辑保真度,显著提升了图像编辑的准确性和实时性,展示了在多种编辑任务中的强大性能。
本文介绍了连续深度图神经网络(GNN)及其与图神经常微分方程(GDEs)的关系,强调了GDEs在静态和动态设置中的计算优势。研究提出了图神经随机微分方程(Graph Neural SDEs)和基于加法普通微分方程的非参数建模方法,展示了在高维数据集上的优越表现。此外,STG-NRDE方法结合了神经网络和图卷积网络,优化了交通流量预测的准确性。
本文介绍了一种名为Neural Eigen的随机微分方程算法,旨在个性化医疗建模和治疗效果估计。该算法通过超网络处理不规则采样数据,提高了因果推断的准确性,并在多个基准数据集上验证了其有效性。此外,提出的贝叶斯神经控制微分方程(BNCDE)能够提供治疗效果的不确定性估计,促进可靠的医学决策。
该研究论文提出了一种基于Wasserstein梯度流的扩散过程新近似推理方法,适用于机器学习中的非线性滤波。研究探讨了变分推断与Wasserstein梯度流的关系,提出了新的梯度估计方法,并实现了对凸函数空间的有效数值模拟。此外,论文还研究了随机微分方程的数值逼近及基于梯度流的采样方法,提供了理论保证和收敛性分析。
本文提出了一种结合扩散映射和兰格朗日动力学的生成模型,旨在解决随机微分方程的稳定性问题。实验结果表明,该方法在生成新样本和条件样本方面表现优异,并且在高维Fokker-Planck方程求解中比传统方法更准确和稳定。
本文提出了一种在再生核希尔伯特空间中非参数获取熵测度的方法,定义了类似量子熵的熵泛函,并进行了条件熵和互信息的估计。同时,研究了非均质固体应力波传播的均质化模型,提出了基于核的非参数学习算法,利用离散时间观测识别随机微分方程的系数,展示了该方法在准确性和鲁棒性方面的优势。
本文提出了DiffEditor和InstDiffEdit等多种图像编辑方法,利用扩散模型和随机微分方程(SDE)实现高保真图像编辑。这些方法在细粒度编辑和多对象处理上表现优越,显著提升了图像质量和编辑速度。
本研究比较了不同敏感性分析方法的性能,发现前向模式自动微分在ODE参数估计和神经微分方程拟合中更有效。随着模型规模增大,连续伴随方法表现更佳,但存在内存与性能的权衡。此外,提出了一种结合伴随灵敏度方法的随机微分方程梯度计算新方法,应用于神经网络的随机动力学拟合,展现出竞争性性能。
本文提出了一种新颖的深度学习方法,用于通过离散采样估计马尔科夫过程中的时变参数。实验集中在多元回归和随机微分方程的参数估计上,结果表明该方法在特定条件下能有效接近真实解,为基于随机微分方程的模型参数估计提供了新工具。此外,研究探讨了深度学习在分数随机过程中的应用,发现其在赫斯特参数估计方面具有潜力,但效果依赖于过程类型和训练数据质量。
本文提出了一种新颖的图神经随机微分方程(Graph Neural SDEs)模型,通过引入布朗运动的随机性,提升了图神经常微分方程在不确定性评估和变点检测方面的性能。该模型在时间序列建模和控制动力学中表现优越,适用于多种应用场景,验证了其优势和鲁棒性。
本文介绍了一种基于Fokker-Planck方程的回归方法,提出的WLaSDI算法在噪声鲁棒性和计算速度上优于LaSDI。文章还探讨了稀疏回归、非参数学习算法及贝叶斯推断在随机微分方程建模中的应用,强调随机性在避免过拟合中的重要性。
研究比较了基于ODE和SDE的概率流与扩散模型,发现扩散系数越大,SDE样本误差指数级下降,变化扩散系数可提升样本质量。多项工作提出基于BSDE、随机微分方程及得分匹配的生成方法,并探索图生成、DNA序列设计等应用。
该文综述神经微分方程与DeepONet等框架:用神经网络逼近非线性算子与随机微分方程,通过噪声注入提升泛化与鲁棒性;Enhanced DeepONet支持多输入函数求解偏微分方程,精度显著提升;结合物理约束、自编码器与随机动力学,可建模时间序列、量化不确定性并求解高维随机偏微分方程。
该文综述扩散生成模型理论:通过变分框架推导连续时间扩散,证明最小化得分匹配损失等价于最大化可逆SDE似然下界;深度网络可高效近似得分函数,线性结构可加速采样15-30%;提出正则化非参数回归统一视角及迭代正则化得分估计器;去噪网络具强泛化与几何自适应谐波归纳偏差;应用于MRI重建、无训练采样和不平衡分类。
完成下面两步后,将自动完成登录并继续当前操作。