EmbSum：利用大型语言模型的摘要能力进行基于内容的推荐
原文中文，约1500字，阅读约需4分钟。
📝
内容提要
本文介绍了一种名为Scaling User Modeling (SUM)的框架，旨在提升个性化广告的实时性能。SUM通过合成用户嵌入，实现高效的在线用户表示共享，已在Meta的广告排名系统中广泛应用，处理数百亿次用户请求，显著提高了在线指标并节约了基础设施成本。
🔎
延伸解读
SUM框架的核心机制
SUM框架通过指定的上游用户模型合成用户嵌入，并将这些嵌入传递给下游广告排名模型，实现用户表示的高效共享。这种设计避免了每个模型单独处理用户特征，从而在训练吞吐量、服务延迟和内存限制下提升实时性能。
实际部署规模与收益
SUM已在Meta的数百种广告排名模型中部署，每天处理数百亿次用户请求。实际应用表明，该框架不仅显著提升了在线指标，还节约了基础设施成本，验证了其在大规模工业环境中的有效性和可扩展性。
与摘要技术的关联
文章标题提及利用大型语言模型的摘要能力进行推荐，但正文主要介绍SUM框架。SUM通过合成用户嵌入来浓缩用户特征，类似于摘要过程，但具体实现未详细说明LLM的直接应用。读者需注意标题与内容的侧重点差异。
❓
Q&A
Scaling User Modeling (SUM) 框架的主要目标是什么？
SUM 框架旨在提升个性化广告的实时性能。
SUM 如何实现在线用户表示共享？
SUM 通过合成用户嵌入，实现高效的在线用户表示共享。
SUM 框架在 Meta 的广告系统中应用的效果如何？
SUM 已处理数百亿次用户请求，显著提高了在线指标并节约了基础设施成本。
SUM 框架是如何应对训练吞吐量和服务延迟的？
SUM 通过合成用户嵌入和高效的在线用户表示共享来解决训练吞吐量和服务延迟的问题。
SUM 框架的部署经验有哪些？
SUM 框架的实际部署经验包括在 Meta 的数百种广告排名模型中推出，并进行全面的实验验证。
SUM 框架的优势是什么？
SUM 框架的优势在于显著提高在线指标和节约基础设施成本。
🏷️
