本文探讨了在正交约束下求解非方阵最速下降方向的方法，提出了一种基于迭代算法的解决方案，涉及矩阵谱范数和切空间的概念。通过数值算法和奇异值分解（SVD）技术，解决了优化问题，并比较了不同方法的效果。

本文探讨了Muon优化器的构建，首先在谱范数约束下进行矩阵参数的最速下降，然后引入正交约束以保持参数为正交矩阵，最终得出适用于正交性优化场景的更新规则。