二手知识
·
推荐系统前深度学习时代：从协同过滤到 GBDT+LR
💡
原文中文，约6000字，阅读约需15分钟。
📝
内容提要
本文介绍了推荐系统中常用的算法，包括协同过滤、矩阵分解、LR、Poly2、FM和FFM。这些算法都有各自的优势和劣势，需要根据具体情况选择使用。
🎯
关键要点
- 推荐系统的核心算法包括协同过滤、矩阵分解、LR、Poly2、FM和FFM。
- 推荐算法的四要素为物品、上下文、用户和推荐算法本身。
- 协同过滤分为用户基础和物品基础两种，适用于不同场景。
- 用户基础协同过滤适合社交场景，但维护共现矩阵存在问题。
- 物品基础协同过滤适合兴趣稳定的场景，如电商和电影。
- 协同过滤的优势在于直观和可解释性，但泛化能力差。
- 矩阵分解技术通过分解共现矩阵提高了推荐系统的泛化能力。
- 矩阵分解的用户和物品隐向量便于与其他特征结合。
- Logistic回归适合处理海量数据，输出可解释性强，但只能捕获线性关系。
- Poly2算法通过引入二阶项捕获特征间的交互关系，但计算复杂度高。
- FM算法结合了矩阵分解和线性回归，能够处理高维稀疏数据。
- FFM算法在FM基础上引入域的概念，关注特征间的独立关系。
- GBDT+LR组合算法通过特征交叉提升模型效果，捕获特征间的非线性关系。
- GBDT的训练复杂性增加，可能导致模型过拟合。
➡️
