➡️
继续阅读
-
NuGet 半年度总结:周下载量从 54 亿到 67 亿,.NET 生态的"新一轮增长期"实锤了 - 张善友
NuGet周下载量半年净增13亿次达67亿,印证.NET 10 LTS与AI开发共振。OpenTelemetry首入TOP10,.NET 10工作负载包上...
-
让 Apple Watch 记录的每一趟游泳数据更有意义:即刻游
即刻游是一款配合Apple Watch使用的游泳训练应用,核心功能包括详细记录游泳数据(如SWOLF、分段数据、心率区间)、自定义训练计划、AI分析提供专...
-
一分钟读论文:《数据喂饱了,算法还饿着》
清华大学团队研究发现,在线蒸馏中仅用一条训练query即可覆盖全量数据71.5%的学生状态,恢复大部分收益。瓶颈不在数据供给,而在算法吸收效率。多教师设定...
-
数据并行与 ZeRO:三级分片各省多少
本文介绍数据并行与ZeRO优化技术。ZeRO通过三级分片(优化器状态、梯度、权重)减少显存占用,前两级不增通信量,第三级需额外all-gather。ZeR...
-
省 token 故事 · 各自为政 - 编程一生
多智能体并行虽高效,但每个智能体需独立上下文,重复阅读文件导致token成本高。自查不可靠,需独立质检。任务书应自包含且窄,验收独立派人,能串行则不并行。...
-
大语言模型的基石:Transformer 入坑笔记(四) - 线性注意力(Linear Attention) 的基础
本文探讨Transformer注意力机制的计算复杂度问题,指出标准注意力在长上下文下时间和空间开销呈平方增长。文章概述了高效注意力、FlashAttent...