➡️
继续阅读
-
AI 智创简报:《逐句举证专利扎堆,RAG 质检的插件生意》
2026年多家大厂专利显示,AI答案需逐句带证据,可验证性从事后打分前移至生成时内嵌。第三方质检工具空缺,为客服、法务等团队提供引用质检插件或审计服务,成...
-
罗兰推出生成式AI音乐插件Melody Flip
罗兰推出生成式AI音乐插件Melody Flip,提供约250种风格调色板,可生成旋律、和弦、贝斯或鼓点,但输出为简单循环而非完整歌曲,旨在激发创作灵感。...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...
-
显存账本:每张卡上住着什么,搬走付什么
本文介绍训练大模型时显存管理的通用记账方法。显存分为五类:权重、梯度、优化器状态、激活和通信缓冲。前三类由参数量和并行度决定,激活随输入长度增长,优化空间...
-
看 NocoBase 的分支更新:AI 无代码平台进生产前,先把风险边界想清楚
NocoBase开源AI无代码平台更新,维护main、next、develop三分支,生产环境应用稳定版。文章强调AI无代码平台非黑盒,需关注配置导出、迁...
-
数据并行与 ZeRO:三级分片各省多少
本文介绍数据并行与ZeRO优化技术。ZeRO通过三级分片(优化器状态、梯度、权重)减少显存占用,前两级不增通信量,第三级需额外all-gather。ZeR...