小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
GenRecs 分词:以稳定模型词表变革 Meta 广告推荐

Meta提出GenRecs Tokenization方案,用稳定语义词表替代逐项ID,将广告、商品、页面等编码为离散语义token,使模型能借助LLM世界知识理解内容与用户偏好,并泛化到新实体和长尾广告。该方案结合GEM与自适应排序模型,在广告转化上提升0.35%,并支持跨活动迁移、冷启动和LLM扩展。

GenRecs 分词:以稳定模型词表变革 Meta 广告推荐

Engineering at Meta Engineering at Meta · 2026-10-19T16:00:47Z
实时零售智能:在Databricks上使用Lakebase和AI搜索构建电商推荐系统

某亚洲时尚电商平台基于Databricks构建实时个性化推荐系统,服务百万月活用户和十万级SKU,每秒处理约千条事件。系统采用湖仓分层架构与特征存储,确保训练与推理一致。推荐分批量预计算(首页等)和实时会话评分(相似商品等)两条路径,均实现毫秒级响应,并支持冷启动、模型迭代与漂移监控。

实时零售智能:在Databricks上使用Lakebase和AI搜索构建电商推荐系统

Databricks Databricks · 2026-10-02T11:00:00Z
Agent容器越大冷启动越慢?AWS把“加载一次”变成了快照恢复

AWS发布AgentCore Runtime V2,以快照恢复替代容器冷启动:先初始化再保存快照,按需加载内存并回收冷内存。官方测试显示,200MB至2GB镜像的P75冷启动约2秒,旧版则从5.4秒增至近30秒。开发者应分开测量平台启动、模型推理与工具执行,并通过A/B测试记录P50、P75、P95及失败率,避免将总首响都归为冷启动。

Agent容器越大冷启动越慢?AWS把“加载一次”变成了快照恢复

Java for You Java for You · 2026-09-21T06:41:17Z
冷启动:前 100 个用户

该文本仅为付费阅读页面的提示信息,要求购买《普通人 AI 变现 0→1》全书后才能阅读全文,并包含登录、支付解锁等操作说明,没有实质文章内容可供总结。

冷启动:前 100 个用户

唐霜 唐霜 · 2026-09-19T17:40:16Z
轻糖的 KMP 实战:一次冷启动 3 秒必现崩溃,与 viewModelScope 异常逃逸的代价

轻糖iOS版冷启动3秒必现崩溃,根因是共享层ViewModel的Flow订阅异常未捕获,在Kotlin/Native上触发SIGABRT。修复方案是在每个订阅外层加try/catch,CancellationException需rethrow,异常记日志并写入UiState。沉淀三条军规:订阅必须兜底、取消异常优先处理、异常只进日志和UiState。

轻糖的 KMP 实战:一次冷启动 3 秒必现崩溃,与 viewModelScope 异常逃逸的代价

ISLAND ISLAND · 2026-09-05T16:00:00Z
将GPU推理冷启动从8分钟缩短至不到1分钟

本文分析了GPU节点上大语言模型冷启动的瓶颈,发现从Pod创建到首次推理响应需8分钟,涉及六个阶段。主要问题包括CUDA内核重复编译(小模型占65%时间)和S3权重下载效率低(大模型占92%)。通过配置优化(如缓存编译、并行拉取)可将启动时间缩短80-93%,冷节点降至约5分钟,显著提升GPU利用率和扩展效率。

将GPU推理冷启动从8分钟缩短至不到1分钟

The New Stack The New Stack · 2026-09-03T18:30:00Z
Cloudflare R2 图床在微信公众号排版时的踩坑

公众号图片裂图主因是Cloudflare Worker冷启动导致首请求超时,而非水印或跨境慢。解决方案是子域分流:公众号走R2原生直出(无水印),博客走Worker加水印,避免微信抓取时触发冷启动。

Cloudflare R2 图床在微信公众号排版时的踩坑

筷子小手 筷子小手 · 2026-08-19T11:28:49Z
如何对抗点击诱饵:Meta、LinkedIn与YouTube案例研究

社交媒体平台正将推荐系统从基于互动信号转向语义检索,以对抗点击诱饵。LinkedIn统一为单一语言模型检索器,Meta保留多模型漏斗结构,YouTube则采用生成式检索生成视频ID。三者均利用嵌入匹配用户与内容,改善冷启动问题,但各有权衡:统一简化维护,专业化便于调控,生成式扩大覆盖但可能产生无效ID。

如何对抗点击诱饵:Meta、LinkedIn与YouTube案例研究

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-08-10T15:30:49Z
Python函数包现在包含预编译字节码

Vercel在构建时将Python函数编译为字节码,使中等大小函数的冷启动时间从2.8秒降至1.3秒。通过预编译应用代码和依赖,并包含.pyc文件,跳过启动时的编译步骤。自动添加尽可能多的预编译字节码,但接近大小限制的函数收益较小,无需修改代码。

Python函数包现在包含预编译字节码

Vercel News Vercel News · 2026-07-21T00:00:00Z

文章讨论LobeHub Electron应用冷启动时,业务内容短暂出现后回退至loading的问题。根因是hydration时机与React挂载不同步,导致缓存未恢复时UI先显示。解决方案是引入bootstrap层,并行启动初始化和渲染,用appReady gate控制可见性,并显式管理全局注册。优化后稳定首屏时间缩短44%,回退问题消除,并强调性能测试需物理隔离环境。

LobeHub Electron 的持久化 Hydration 不应由 React 挂载启动

静かな森 静かな森 · 2026-06-16T19:16:41Z
网易游戏如何在Kubernetes上实现30秒的LLM冷启动

在网易游戏,我们发现大语言模型(LLM)推理的关键在于数据传输速度。通过使用Fluid,我们将模型加载时间从42分钟缩短至3分钟,显著提高了推理效率。同时,Fluid支持跨命名空间共享模型,减少内存浪费,简化操作,使得在Kubernetes上进行LLM推理变得可行且高效。

网易游戏如何在Kubernetes上实现30秒的LLM冷启动

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2026-05-21T11:00:00Z
网易游戏如何将大语言模型冷启动时间从42分钟缩短至30秒

网易游戏在大语言模型推理中面临挑战,发现数据加载速度至关重要。通过使用Fluid项目,模型加载时间从42分钟缩短至3分钟,显著提升了推理效率并降低了成本。Fluid的共享缓存模型减少了内存浪费,简化了操作,使得在Kubernetes上进行LLM推理成为可能。

网易游戏如何将大语言模型冷启动时间从42分钟缩短至30秒

The New Stack The New Stack · 2026-05-06T13:00:00Z
国产多模态Agent拿下医学分割SOTA!不用改模型、不加token

浙江大学和上海人工智能实验室提出的IBISAgent框架,将医学图像分割重新定义为多步视觉决策过程,克服了现有方法的局限。通过冷启动和强化学习,IBISAgent在多个基准测试中显著提升了分割性能,展示了自主多轮交互推理的优势,为智能医学图像分析奠定了基础。

国产多模态Agent拿下医学分割SOTA!不用改模型、不加token

量子位 量子位 · 2026-04-22T07:17:04Z
谷歌将AutoFDO部署到安卓内核 可以缩短冷启动应用和开机时间

谷歌将自动反馈导向优化(AutoFDO)应用于安卓内核,提升系统性能,缩短冷启动和开机时间,应用切换更快,几何平均性能提升10.5%。目前支持Android 16-6.12和Android 15-6.6,未来将扩展至更多版本。

谷歌将AutoFDO部署到安卓内核 可以缩短冷启动应用和开机时间

蓝点网 蓝点网 · 2026-03-14T02:30:53Z

在Go与Node.js的性能对比中,Go在冷启动和内存占用方面表现优异,内存使用量仅为Node.js的五分之一,且部署更简便;而Node.js在热启动时更具竞争力。选择编程语言时需平衡性能与工程需求。

性能之战的“罗生门”:Go 重写 Node.js 项目,究竟赢在了哪里?

Tony Bai Tony Bai · 2026-02-23T16:00:00Z
Weekly Issue-《念念远山》

文章讨论了Agent Sandbox的核心需求,包括快速冷启动、高安全性、支持Python和便捷的镜像构建流程。同时提到Snowsky设备的刷机方式及固件升级风险,强调B端产品经理需关注业务逻辑和异常流程的防御。

Weekly Issue-《念念远山》

Yiran's Blog Yiran's Blog · 2026-02-22T00:00:00Z
Cloudflare 如何消除无服务器工作负载的冷启动问题

CodeRabbit 是一款 AI 代码审查工具,能够快速提供代码审查和修复建议。Cloudflare 通过工作分片技术将冷启动延迟减少十倍,优化请求路由,提高系统性能。

Cloudflare 如何消除无服务器工作负载的冷启动问题

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-02-17T16:31:17Z
运行时日志中现已提供函数启动类型

现在,您可以在运行时日志的右侧面板查看Vercel函数调用的启动类型,包括热启动和冷启动,并显示冷启动的持续时间。

运行时日志中现已提供函数启动类型

Vercel News Vercel News · 2025-12-22T13:00:00Z

Piaf在2017年参与TikTok的全球化工作,见证了其从零到千万日活的成长。她回忆起当时的艰辛与迷茫,强调冷启动和用户增长的重要性。尽管经历了印尼的下架危机,团队依然坚持努力,最终取得成功。她认为,成功源于无数的努力与调整,而非单纯的运气。

TikTok 也曾经很在乎那一万个新增用户

王登科 王登科 · 2025-12-09T02:28:24Z
Python Workers 复兴:快速冷启动、包支持与优先使用 uv 的工作流程

去年推出的Python Workers现已全面支持Pyodide包,冷启动速度显著提升,Cloudflare Workers比AWS Lambda快2.4倍。通过内存快照技术,冷启动时间减少,提升了开发体验,适合多种应用场景的全球部署。

Python Workers 复兴:快速冷启动、包支持与优先使用 uv 的工作流程

The Cloudflare Blog The Cloudflare Blog · 2025-12-08T06:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码