使用二阶算法进行自动尺寸调整和高效深度自编码器训练
原文中文,约300字,阅读约需1分钟。发表于: 。通过多步训练方法设计广义线性分类器,优化验证误差、改进期望输出并提升深度学习模型的性能,从而构建小而强大的快速深度学习模型。
本文介绍了一种基于深度自编码器的新模型,用于Netflix数据集的评分预测任务。相比之前的模型,该模型具有明显优势,不需要层预训练,采用6层自编码器进行端到端的训练。实验证明,深度自编码器模型的泛化能力更好,负部分的非线性激活函数对于训练深度模型至关重要,需要大量采用正则化技术,如dropout,以防止过拟合。此外,提出了一种基于迭代输出反馈的训练算法,以克服协作过滤的自然稀疏性,该算法加速了训练并改善了模型性能。