NotionNext BLOG
·
FM 类模型
内容提要
本文介绍了多种CTR预估和推荐系统中的因子分解机（FM）模型，包括Poly2、FM、FFM、NFM、AFM、PNN、DeepFM和DCN等。讨论了线性模型的局限性，以及通过引入多项式模型和深度学习方法来提升特征组合学习能力，解决稀疏特征问题。简要概述了各模型的架构和公式，强调了它们在特征学习和计算复杂度上的优缺点。
关键要点
-
因子分解机（FM）模型在CTR和推荐系统中被广泛使用。
-
线性模型的表达能力有限，无法有效处理非线性特征。
-
多项式模型（如Poly2和FM）通过学习特征组合的权重来解决线性模型的局限性。
-
FFM（Field-aware Factorization Machines）去掉了特征维度的限制，更加适用于CTR预估。
-
NFM（Neural Factorization Machine）通过嵌入方法学习稀疏特征的组合。
-
AFM（Attentional Factorization Machine）引入注意力机制来学习特征组合的重要性。
-
PNN（Product-based Neural Network）使用外积组合特征，提供另一种组合方式。
-
DeepFM结合了FM和DNN，旨在同时学习低阶和高阶特征。
-
DCN（Deep & Cross Network）能够学习高阶组合特征，具有较低的计算复杂度。
延伸问答
因子分解机（FM）模型的主要应用是什么？
因子分解机（FM）模型主要用于CTR预估和推荐系统。
线性模型在特征学习中存在哪些局限性？
线性模型的表达能力有限，无法有效处理非线性特征。
FFM模型与FM模型有什么主要区别？
FFM模型去掉了特征维度的限制，更加适用于CTR预估，而FM模型则受到特征维度的限制。
NFM模型是如何处理稀疏特征的？
NFM模型通过嵌入方法学习稀疏特征的组合，能够处理高维稀疏输入。
AFM模型引入了什么机制来提升特征组合的学习？
AFM模型引入了注意力机制来学习不同组合特征的重要性。
DeepFM模型的结构是怎样的？
DeepFM模型结合了FM和DNN，旨在同时学习低阶和高阶特征。
