利用 Transformer 作为具有有限规律性的微分方程求解的神经算子
原文中文，约1300字，阅读约需4分钟。
📝
内容提要
本文探讨了基于Transformer的神经网络在物理系统动力学中的应用，提出了一种新的神经算子，能够高效求解偏微分方程（PDE），并在多个测试中展现出高准确率和速度。研究还改进了DeepONet模型，强调物理一致性对预测准确性的提升，以及在不规则网格上进行解的预测能力。
❓
Q&A
Transformer神经网络在物理系统动力学中的应用是什么？
Transformer神经网络用于学习物理系统的动力学，并结合卷积自编码器学习空间模式。
新提出的神经算子如何提高偏微分方程的求解效率？
新神经算子通过在傅里叶空间中参数化积分核，实现对偏微分方程的高效求解，速度比传统方法快三个数量级。
GraphDeepONet模型的优势是什么？
GraphDeepONet能够适应DeepONet，有效学习操作符，并在不规则网格上进行解的预测和时间外推。
如何通过物理学知识提高DeepONets的预测准确性？
通过施加软惩罚约束，确保物理一致性，从而显著提高DeepONets的预测准确性，减少训练数据需求。
使用可学习的线性层替代变换层有什么好处？
使用可学习的线性层可以在性能上与最佳的基于变换的层相媲美，并且计算时间更短。
如何实现对参数ODE/PDE系统的精确长时间模拟？
通过无配对输入输出观测的深度神经网络学习框架，可以实现对参数ODE/PDE系统的精确长时间模拟。
🏷️
