大尺度下的随机拟牛顿优化，包括深度网络训练

本研究针对在大维设计空间中非凸和可能不光滑的目标函数进行优化的挑战，提出了一种新的随机优化算法。该方法FINDER利用非线性随机过滤方程，通过无导数更新借鉴牛顿搜索，显著提高了大维优化问题的收敛速度，其在多个实例中的表现超过了传统算法如Adam，展示了其在实际应用中的潜力。