BriefGPT - AI 论文速递 ·

控制随机性改善 Transformer 模型的性能

💡 原文中文，约400字，阅读约需1分钟。

📝

内容提要

本文研究了深度学习中预训练数据中噪声的特性，并提出了一种轻量级的黑盒调节方法（NMTune），来对齐特征空间，减轻噪声的恶性效应，并改善在域内和域外任务上的泛化能力。实验结果表明，轻微噪声预训练可以在域内传输性能上有益，但总是会对域外性能造成恶化。

🏷️

探索RSI，生数新世界模型让机器人开始自我进化
生数科技发布世界模型Motus2，集行动、预测、评估于一体，形成“生成动作—预测后果—评估结果—更新策略”闭环，初步探索机器人自进化。该模型新增触觉与记忆...
为善去恶的决策模型
作者以招募前同事为例，分享两个善恶决策模型：一是相信命中注定，坦然接受福祸；二是借鉴王阳明“为善去恶”的心学，在无人监督时依良知做出正确选择。
Kimi突发K2.8：性能逼近K3，百万上下文全员开放
月之暗面发布Kimi K2.8 Preview，综合性能接近旗舰K3，Coding与Agent能力提升，所有会员档位均支持1M上下文。其ARR从6月的3亿...
NVIDIA把供应链专家经验训练进模型，关键不是换一个更大模型
NVIDIA供应链案例表明，专用30B模型经专家决策轨迹训练后，在内部基准上超越更大通用模型。关键在于记录专家决策时的所见、理由与结果，并避免数据泄漏。企...
ChatGPT服务10亿周用户后，最难扩展的可能不是模型
OpenAI披露Habitat存储平台，每秒处理超7000万请求、500PB数据，支撑10亿周用户。该平台从Python客户端库演变为统一服务，2026年...
同一套GPU多服务2.5倍用户，关键不是换模型
NVIDIA测试显示，四张B200运行Nemotron 3 Ultra，在每用户50 Token/s延迟目标下，启用NIM优化栈后并发承载从718提升至1...