BriefGPT - AI 论文速递 ·

大型语言模型的后训练修剪和量化受校准数据的影响

💡 原文中文，约200字，阅读约需1分钟。

📝

内容提要

本论文研究了多语言预训练语言模型在问答任务中的校准性质，包括分布内、分布外和跨语言迁移设置下的校准情况，以及改进校准性的策略和技术。实验证明了自动翻译数据增强是提高模型校准性的高效技术，并进行了模型大小和多语言模型与单语模型的比较实验。

🏷️

让 Apple Watch 记录的每一趟游泳数据更有意义：即刻游
即刻游是一款配合Apple Watch使用的游泳训练应用，核心功能包括详细记录游泳数据（如SWOLF、分段数据、心率区间）、自定义训练计划、AI分析提供专...
一分钟读论文：《数据喂饱了，算法还饿着》
清华大学团队研究发现，在线蒸馏中仅用一条训练query即可覆盖全量数据71.5%的学生状态，恢复大部分收益。瓶颈不在数据供给，而在算法吸收效率。多教师设定...
数据并行与 ZeRO：三级分片各省多少
本文介绍数据并行与ZeRO优化技术。ZeRO通过三级分片（优化器状态、梯度、权重）减少显存占用，前两级不增通信量，第三级需额外all-gather。ZeR...
DeepSeek采购160000颗华为AI芯片：专攻推理不碰训练
DeepSeek计划采购16万颗华为昇腾950DT芯片，用于内蒙古乌兰察布数据中心的推理任务，而非训练，订单约25.6亿美元。此举旨在降低成本、规避美国管...
Kimi K3 模型结构（8）：训练并行，一步训练里谁在等谁
本文介绍Kimi K3模型预训练的并行系统设计，聚焦MoE层expert并行。核心是MoonEP方案：每个rank预留E/R个冗余expert槽位，确保任...
结构化应用数据的Dataclasses
本文介绍Python dataclass如何替代易出错的配置字典，构建结构化、可维护的数据模型。涵盖组合嵌套记录、用default_factory处理可变...