本研究探讨了低秩矩阵分解中初始化对收敛速度的影响，提出了Nystrom初始化，显著提升了ScaledGD的全局收敛性，并扩展至低秩适配器（LoRA），在多项任务中表现优异。

该论文提出了一种基于Stein恒等式和核算子的谱分解的梯度估计器，适用于无采样点的外样本拓展。该估计器可以直接估计梯度函数，适用于无梯度的Hamiltonian Monte Carlo和带隐式分布的变分推断。通过和Kernel PCA的连系探讨了方法背后的原理，表明该估计器能够自适应于潜在分布的几何形态。