关于最小迹因子分析的研究 —— 一首换了调的老歌
内容提要
本文综述矩阵与张量因子分析进展，涵盖：半定规划求解秩受限因子分析、最小体积非负矩阵分解恢复缺失秩矩阵、随机梯度下降训练高维混合因子分析、低多秩贝叶斯鲁棒张量分解、联合因子分析与潜在聚类、PCA扩展至异构数据、公平PCA、矩阵变量t分布双线性因子分析、PCA结合deflation varimax估计因子载荷，以及矩阵分解样本复杂度估计。
延伸解读
从矩阵到张量：因子分析模型的演进
文章梳理了因子分析从矩阵到张量的扩展脉络。早期工作如半定规划求解秩受限因子分析、最小体积非负矩阵分解，主要处理矩阵数据。随后，低多秩贝叶斯鲁棒张量分解、矩阵变量t分布双线性因子分析等模型将因子分析推广到张量，以捕捉多模态结构。这种演进反映了数据维度升高后，传统矩阵方法在建模复杂依赖关系上的局限，以及张量分解在保留结构信息方面的优势。
鲁棒性与公平性：因子分析的新关注点
文章提到多个工作关注因子分析的鲁棒性和公平性。例如，矩阵变量t分布双线性因子分析能处理重尾或受污染数据，且比传统t因子分析有更高的破裂点；低多秩贝叶斯鲁棒张量分解则显式建模稀疏和噪声。公平主成分分析（FPCA）则试图在降维中引入公平性约束。这些方向表明，因子分析不再只追求降维或解释性，也开始应对数据污染和算法公平等现实问题。
计算可扩展性与理论保证的平衡
文章中的多项研究同时关注计算效率和理论性质。例如，半定规划方法利用非线性优化技术提高可扩展性；高维混合因子分析采用随机梯度下降进行高效训练；PCA结合deflation varimax的方法在中等或高信噪比下以最佳速率估计因子载荷，并允许因子数随样本量增长。这体现了因子分析研究在追求实际可用性的同时，也在努力提供样本复杂度等理论保证，以指导方法选择。
Q&A
最小迹因子分析主要研究哪些问题？
最小迹因子分析主要研究矩阵与张量因子分析中的秩受限问题，包括半定规划求解、最小体积非负矩阵分解、随机梯度下降训练高维混合因子分析、低多秩贝叶斯鲁棒张量分解、联合因子分析与潜在聚类、PCA扩展至异构数据、公平PCA、矩阵变量t分布双线性因子分析、PCA结合deflation varimax估计因子载荷，以及矩阵分解样本复杂度估计等。
如何用半定规划解决秩受限因子分析问题？
文章提出了一种基于半定规划的非线性秩受限因子分析问题的最优化表述方法，并使用目前最先进的非线性优化技术提高了计算可扩展性，同时在真实数据集上展示了提高的精度。
最小体积非负矩阵分解有什么优势？
最小体积非负矩阵分解方法不依赖噪声水平即可恢复秩缺失的矩阵，并通过无需调整的平方根lasso方法来选择调整参数值。
高维混合因子分析模型如何训练？
文章通过随机梯度下降方法，针对高维数据提出了一种高效的高维混合因子分析（MFA）模型训练方法，并利用MFA应用于图像数据集进行样本生成和异常检测。
低多秩贝叶斯鲁棒张量分解是什么？
低多秩高阶贝叶斯鲁棒张量分解（LMH-BRTF）是一种新型高阶TRPCA方法，在贝叶斯框架内对观测到的受损张量进行分解，结合了明确建模稀疏和噪声成分的优势，实现了对张量的多秩自动确定，并采用高效的变分推断算法进行参数估计。
公平主成分分析如何实现？
文章探讨了公平主成分分析（FPCA）的问题，并且提出了使用次梯度下降来解决此问题的方法，该方案可以使优化结果更易于计算且结果更精确。
