智能投放:让每一单位算力服务更优广告

智能投放:让每一单位算力服务更优广告

💡 原文英文,约2200词,阅读约需8分钟。
📝

内容提要

Meta 推出 Intelligent Delivery 系统,通过机器学习预测每单位算力的边际收益,在区域、硬件和主机层面分层调度广告算力,并借助 AI 智能体自动优化配置。2017 年至 2026 年上半年,该系统在模型与系统进步之上额外提升约 10% 的广告排序性能,智能体已参与约 20% 的优化工作。

🔎

延伸解读

为什么“多给算力”不等于“效果更好”

文章指出,同一单位算力在不同广告请求、模型和芯片上的边际收益差异很大,且受产品场景、用户意图、候选质量和系统状态影响。这意味着单纯堆算力或按粗粒度分组分配会浪费资源。Intelligent Delivery 的核心思路是先预测每个请求的边际收益,再决定资源去向,而不是平均分配。对读者而言,这提示评估广告系统效率时,应关注“算力投向哪里”而非只看总算力规模。

分层调度:区域、硬件、主机各管一段

系统把资源分配拆成三层:区域间动态调流量,使各地边际容量效率趋同;硬件层按工作负载与 SKU 的实测效率做匹配,因为检索受内存限制、排序受算力限制、推理受加速器吞吐限制;主机内则在尾延迟约束下,优先削减低影响、高消耗的请求。三层决策相互耦合,文章强调需在闭环硬件测试环境中验证,避免只优化局部而损害全局。

AI 智能体接手调参,但人仍把关

面对数百万可调维度,人工穷举不可行,约束优化又不够灵活。文章介绍,AI 智能体在长上下文中阅读源码、设计文档和十年实验日志,缩小到少量值得测试的改动,再由工程师审核后上线。2026 年上半年,智能体参与了约 20% 的优化工作,在最自动化的机制上承担约 80% 的工程投入,把优化周期从数月缩短到数周。这显示智能体适合做搜索与实验执行,但最终决策权仍保留在人手中。

下一步的难点:GPU 与端到端融合

文章列出两个前沿方向:一是把“理解请求”和“决定如何服务”融合为单一实时模型,跨所有服务阶段联合优化,这在流量波动、容量硬约束和阶段依赖下仍是开放问题;二是大排序模型向 LLM 规模增长并转向 GPU,而 GPU 容量以固定块分配,吞吐、批处理和内存行为与 CPU 不同,原有杠杆需重新设计。读者可据此判断,当前成果主要建立在 CPU 体系上,GPU 时代的调度方法尚未成熟。

❓

Q&A

Intelligent Delivery 是什么?它主要解决什么问题?

Intelligent Delivery 是 Meta 推出的 ML 驱动系统,用于在广告服务栈中分配计算资源,以逼近系统全局最优。它解决的是广告排序模型规模增长快于硬件能力、计算资源有限且异构、延迟预算紧张的情况下,如何高效运营模型的问题。

Intelligent Delivery 取得了哪些实际效果?

从 2017 年到 2026 年上半年,Intelligent Delivery 在模型与系统进步之上额外提升了约 10% 的广告排序性能。在 2026 年上半年,AI 智能体参与了约 20% 的优化工作;在最自动化的机制上,智能体贡献了约 80% 的工程投入。

为什么广告投放系统的计算资源分配很难做到全局最优?

文章指出三个根本原因:第一,计算边际影响高度异质且依赖上下文,同一单位算力在不同请求、模型和芯片上回报差异很大;第二,局部最优不等于全局最优,服务栈跨多阶段排序、数百模型、多代硬件和数据中心,资源不能自由可靠地跨边界转移;第三,全局最优是移动目标,新模型、新硬件或新架构会不断改变优化 landscape,使原有分配失效。

Resource Core Model 是什么?它如何帮助识别高价值广告请求?

Resource Core Model 是运行在候选检索之前、在整个投放漏斗中共享的深度学习模型,拥有 60 亿稀疏参数和 2000 万稠密参数。它通过学习的嵌入和深层特征交互捕捉手动分段无法捕捉的请求模式,并微调为一组专用模型,分别生成关于结果、计算消耗和延迟影响的增量信号。相比之前的生产模型,它在主要场景的离线基准中识别最高影响广告请求的能力提升了约 20%。

Intelligent Delivery 如何在区域、硬件和主机层面分层调度资源?

系统将分配问题分解为分层决策引擎:区域层,通过实时基础设施在分钟级周期内动态转移流量,使每个区域的边际容量效率趋于一致;硬件层,对每个工作负载-SKU 对进行基准测试,求解分配问题,将稀缺硬件分配给能将其转化为最有价值工作的负载;主机层,实时预测每个请求的预期结果、计算和延迟成本,在硬性尾延迟 SLO 下求解约束优化,优先裁剪资源密集的低影响工作。

AI 智能体在 Intelligent Delivery 的优化循环中扮演什么角色?

AI 智能体持续监控整个系统 landscape,识别变化和低效之处。在长上下文窗口中,智能体阅读机制源代码、设计文档和十年实验日志,缩小到少数值得测试的变更,并设计运行严格实验。工程师在变更上线前审核批准。智能体将优化循环从数月缩短到数周,同时保持人类控制,并逐步沉淀工程师积累的专业知识。

Intelligent Delivery 下一步的重点方向是什么?

文章提到两个前沿方向:一是端到端实时优化,将请求理解与决策融合为单一模型,实时读取请求并服务,无需数月实验,难点在于在流量变化、硬容量限制和阶段间紧耦合下跨所有服务阶段联合优化;二是在 GPU 上服务最先进模型,大型排序模型如 GEM 正增长至 LLM 规模并越来越多运行在 GPU 上,GPU 容量以固定块形式提供,吞吐、批处理和内存行为不同,需要重新设计 CPU 世界的优化杠杆。

🏷️

标签

➡️

继续阅读