➡️
继续阅读
-
《梦幻橄榄球》播客主持人安迪·霍洛韦:一个坚持零邮件收件箱的人
《The Verge》采访了Fantasy Footballers播客主持人Andy Holloway。他希望在繁忙的NFL赛季前保持专注,偏好整洁的标签...
-
如何凭空参加行业大会,观看大佬分享?AI帮你打开思维,轻松理解每一个最新前沿知识
作者利用抖音官方推荐系统资料,通过免费AI工具制作行业大会风格的录播视频,零成本分享知识。他反思AI时代博客价值,认为“活人感”稀缺,决定继续写作但减少说...
-
AI 智创简报:《说话人分离专利转向流式,转写接单者的工具活》
近一年,NVIDIA与Google公开了四项说话人分离专利,推动该技术从离线批处理转向流式处理,并引入大模型纠错。此技术旨在解决转写中“谁在何时说话”的难...
-
AI如何改变补丁管理及开发者需了解的暴露管理知识
AI正在改变漏洞管理方式,但仅按严重性评分修复并不足够。文章强调应从传统漏洞修补转向暴露管理,结合代码可达性、依赖树和SBOM等上下文评估真实风险。开发者...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...
-
显存账本:每张卡上住着什么,搬走付什么
本文介绍训练大模型时显存管理的通用记账方法。显存分为五类:权重、梯度、优化器状态、激活和通信缓冲。前三类由参数量和并行度决定,激活随输入长度增长,优化空间...