BriefGPT - AI 论文速递 ·

大语言模型的关键：数据决定损失-损失缩放法则

💡 原文中文，约600字，阅读约需2分钟。

📝

内容提要

本研究探讨了大语言模型中数据预处理与缩放法则的关系，发现预训练数据和分词器显著影响损失-损失缩放趋势，强调选择合适的预训练数据集对训练的重要性。

🏷️

如何将传统机器学习与智能体推理相结合
传统机器学习擅长快速可靠的预测，但无法规划、适应、使用工具或采取行动。基于大语言模型的智能体推理能规划、调用工具、适应变化并执行操作。混合系统由智能体负责...
NVIDIA把老师傅的判断变成了训练数据
NVIDIA与Palantir合作，将供应链规划师的决策依据、理由与结果写入Ontology，并微调约300亿参数的Nemotron小模型辅助GPU分配。...
开源天气模型已经很快，真正的瓶颈却在数据
Hugging Face与Earthmover发布开源天气模型教程，以Aurora为例，展示从ERA5提取初始条件、执行24小时预测并计算误差的完整流程。...
现在人人都能让数据发挥作用
OpenAI在ChatGPT Work中推出Data agent，可连接Snowflake、Databricks等企业数据源，用户通过自然语言提问即可分析...
Fable 5.1 对比 Fable 5：真实预算下的结果，而非规格表上的数据
Anthropic称Claude Fable 5.1在科学基准测试中得分52.6%，远超旧版24.7%。但作者以普通用户条件自测五个任务，得分仅0%和20...
利用全新的数据与测量工具驱动盈利增长
谷歌发布测量套件更新：Data Manager整合进GA和DV360，统一一方数据，广告主增量ROAS平均提升26%；增强型转化使搜索转化提升11%；Da...