DPOT: 自回归去噪算子变压器用于大规模偏微分方程预训练
原文中文,约200字,阅读约需1分钟。发表于: 。我们提出了一种新的自回归去噪预训练策略,通过 Fourier 关注机制实现了预训练在偏微分方程数据上的更稳定和高效,具有强大的泛化能力,显著提升了下游 PDE 任务的性能。
我们提出了一种名为DiTTO的算子学习方法,通过将受扩散模型启发的框架与Transformer架构相结合,实现了多维度PDEs的准确解决,并通过使用扩散模型中的快速采样概念进一步提高了性能,并展示了DiTTO可以在时间上精确执行零短片超分辨率。