TWIN V2: 快手增强点击率预测的大规模超长用户行为序列建模
内容提要
本研究提出多种基于机器学习的用户行为建模方法，包括搜索兴趣模型、局部敏感哈希和图形模型，旨在提高点击率预测的准确性和系统效率。通过深度学习和动态兴趣激活，验证了模型的实际应用效果。
延伸解读
长序列建模的工业挑战与应对
文章指出，处理超过千级的长序列用户行为数据是工业推荐系统的核心挑战。为此，研究者通过机器学习算法与在线服务系统的协同设计，提出了多种解决方案，如ETA局部敏感哈希方法降低训练和推理成本，SDIM端到端模型加速CTR预测。这些工作共同表明，长序列建模必须在模型性能与系统效率之间取得平衡，才能实现大规模部署。
兴趣建模的技术演进路径
从基于搜索的兴趣模型到TBIN兴趣分块网络，文章展示了兴趣建模技术的演进：早期利用级联搜索单元建模终生序列，随后引入局部敏感哈希和自注意力机制动态激活多样化兴趣。DSIN通过会话划分和双向LSTM捕捉兴趣演化，而GLSM则融合长期和短期行为。这一路径反映了从静态兴趣提取到动态、多尺度兴趣融合的发展趋势。
实际业务效果与验证方式
文章强调，所提出的模型均在真实工业场景中验证了效果。例如，GLSM在实际应用中显著提升了CTR和GMV，TBIN在食品推荐平台上通过离线和在线实验证明了有效性，UBR4CTR在三个大规模数据集上展现了优越性。这些结果说明，这些方法不仅具有理论创新，还能带来实际的业务收益，为工业界提供了可落地的参考。
Q&A
TWIN V2模型的主要目标是什么？
TWIN V2模型旨在提高点击率预测的准确性和系统效率。
如何通过搜索兴趣模型提升用户行为建模的效果？
搜索兴趣模型利用级联搜索单元更好地对终生序列行为数据进行建模，从而提升可扩展性和准确性。
ETA局部敏感哈希方法的优势是什么？
ETA局部敏感哈希方法可以降低训练和推理成本，实现更好的点击率预测表现。
GLSM模型是如何融合长期和短期行为信息的？
GLSM模型通过多兴趣图形结构和多场景异构序列模型，自适应融合长期和短期行为的信息。
TBIN模型如何动态激活用户的多样化兴趣？
TBIN模型结合局部敏感哈希算法和自注意力机制，动态激活用户多样化的兴趣。
Temporal Graph Transformer模型解决了哪些问题？
Temporal Graph Transformer模型有效解决了行为矩阵稀疏和数据不足的问题。
