逼近半线性波动方程的具有物理建模信息的神经网络的误差估计
内容提要
该文综述神经网络逼近偏微分方程的研究，涵盖：延迟目标法解决物理启发网络偏差；PINN与算子学习的严格误差界；网络性能极限与表达能力上界；量子神经网络以O(ε⁻²)权重达精度ε；蒙特卡洛方法高效逼近Poisson方程；证明深度趋于无穷才能超越熵数速率。
延伸解读
物理启发网络的偏差与延迟目标法
文章指出，基于部分积分-微分方程训练物理启发网络时，当前近似方法存在偏差。为此提出了三种解决方法，并重点介绍了延迟目标法，证明其能以可比质量获得精确解。这提示读者，在应用PINN类方法时需注意偏差问题，延迟目标法可能是一种有效的改进策略。
PINN与算子学习的严格误差界
文章提到，2023年5月提出了一种通用框架，用于导出物理相关神经网络（PINN）和算子学习结构（如DeepONets和FNOs）的逼近误差严格界限，并保证这些结构能有效逼近一般偏微分方程的解或解算子。这为相关方法的可靠性提供了理论支撑，读者可关注其适用条件和保证范围。
网络表达能力与深度极限
文章综述了神经网络表达能力的上界研究。例如，在简化双曲两点边值问题中，证明了多种DNN架构的表达能力率上界，且某些激活函数能更好表示边界层特征。另一项工作表明，只有深度趋于无穷时，才能获得比熵数更好的逼近速率，而固定深度增加宽度无法获益。这揭示了深度对网络表达能力的根本性影响。
量子神经网络与蒙特卡洛方法
文章介绍了量子神经网络逼近经典函数的结果：具有O(ε⁻²)个权重和O(⌈log₂(ε⁻¹)⌉)个量子比特的量子神经网络可达到精度ε。同时，基于球面游走算法的蒙特卡洛方法能高效逼近Poisson方程，且随机深度神经网络可在多项式时间内有效逼近。这些方法为高维问题提供了新思路，但需注意其特定假设和复杂度。
Q&A
物理启发神经网络（PINN）在训练时存在偏差问题，有什么解决方法？
本文提出了三种类型的解决方法，并提出了新的延迟目标方法，证明其可以以可比的质量获得精确的解决方案。
PINN和算子学习（如DeepONets和FNOs）的逼近误差是否有严格的理论保证？
有。2023年5月提出了一种通用框架，用于导出PINN和算子学习结构（如DeepONets和FNOs）以及物理相关算子学习的逼近误差的严格界限，并保证这些结构能有效逼近一般偏微分方程的解或解算子。
两层神经网络的性能极限受哪些因素影响？
2022年5月的研究表明，在限制数据和模型的情况下，神经网络的性能极限取决于训练数据的数量、输入维度和隐藏单元的数量。
量子神经网络逼近函数时，需要多少权重和量子比特才能达到精度ε？
一个具有O(ε⁻²)个权重和O(⌈log₂(ε⁻¹)⌉)个量子比特的量子神经网络可以在近似具有可积傅里叶变换的函数时达到精度ε>0。
如何用蒙特卡洛方法和神经网络高效逼近Poisson方程？
本文提出基于球面游走算法轻微改变的蒙特卡洛数值近似方法，其维数无需指定且具有高效性和多项式复杂度。同时证明使用该数值近似方法得出的随机深度神经网络可在多项式时间内对Poisson方程进行有效逼近。
深度神经网络逼近紧致子集时，深度和宽度如何影响逼近速率？
2023年10月的研究证明，除了神经网络，只有当深度l趋于无穷大时，才有可能得到比熵数更好的速率，而如果固定深度并使宽度W趋于无穷大则无法获益。
