EXAdam:自适应交叉矩的力量
📝
内容提要
本文提出了一种新颖的优化算法EXAdam,它通过引入新的去偏差项、基于梯度的加速机制和动态步长公式,解决了原有Adam算法的局限性。实验结果表明,EXAdam在多个任务中的收敛速度和准确率显著优于Adam,显示出在复杂优化领域中的潜在优势。
➡️
本文提出了一种新颖的优化算法EXAdam,它通过引入新的去偏差项、基于梯度的加速机制和动态步长公式,解决了原有Adam算法的局限性。实验结果表明,EXAdam在多个任务中的收敛速度和准确率显著优于Adam,显示出在复杂优化领域中的潜在优势。