BriefGPT - AI 论文速递 ·

通过伪标记成员的微调增强训练数据曝光

💡 原文中文，约300字，阅读约需1分钟。

📝

内容提要

大型语言模型（LLMs）在隐私方面存在关注，因为它们会泄露训练数据和PII，给使用LLMs的公司带来隐私和法律问题。希望本研究能引发跨学科讨论并制定相应政策。

🏷️

数据并行与 ZeRO：三级分片各省多少
本文介绍数据并行与ZeRO优化技术。ZeRO通过三级分片（优化器状态、梯度、权重）减少显存占用，前两级不增通信量，第三级需额外all-gather。ZeR...
DeepSeek采购160000颗华为AI芯片：专攻推理不碰训练
DeepSeek计划采购16万颗华为昇腾950DT芯片，用于内蒙古乌兰察布数据中心的推理任务，而非训练，订单约25.6亿美元。此举旨在降低成本、规避美国管...
Kimi K3 模型结构（8）：训练并行，一步训练里谁在等谁
本文介绍Kimi K3模型预训练的并行系统设计，聚焦MoE层expert并行。核心是MoonEP方案：每个rank预留E/R个冗余expert槽位，确保任...
结构化应用数据的Dataclasses
本文介绍Python dataclass如何替代易出错的配置字典，构建结构化、可维护的数据模型。涵盖组合嵌套记录、用default_factory处理可变...
金融AI的年度大考交卷了：2万名选手、30+家机构、百亿级数据开源
AFAC 2026金融AI大赛在上海举办，吸引全球5027支队伍参赛。赛事聚焦真实金融场景，设置交易行为识别、复杂文档还原、稀疏反馈实验和长文本Agent...
英伟达买下Hugging Face的真正算盘
英伟达买下Hugging Face的真正算盘英伟达为什么用129.3亿美金收购Hugging Face？这期从129303的Unicode表情与英伟达...