BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 ·

通过问答探究语言模型对结构化语义理解和生成的能力

💡 原文中文，约500字，阅读约需2分钟。
📝

内容提要

该研究评估了大型语言模型在条件问答领域的能力和局限性。研究发现，微调的模型在某些情况下优于现有技术，但在抽取性问答方面落后于10个以上的点。研究强调了有效证据检索的重要性，并提出了改进训练任务和探索基于提示的技术以提高模型性能的未来工作的需求。

🏷️

标签

大型语言模型 微调 抽取性问答 条件问答 证据检索 语言模型
➡️

继续阅读

  1. SenseNova-U1.5-8B-MoT 统一生成与理解，解锁原生多模态创作；DeepSeek-V4-Flash-Vision-Exp 拓展视觉理解新能力
    商汤科技发布SenseNova-U1.5-8B-MoT统一多模态模型，支持图像生成、编辑与理解，提升4K画质和文字渲染。HyperAI官网更新数据集、教程...
  2. 把Agent放进真实尺度香港，上交大/新加坡国立大学/美团等提出UrbanGround，测试多模态模型城市探索能力
    该文章介绍了一项关于多模态大语言模型（MLLM）在城市导航中能力的研究。研究团队构建了基于香港真实地理数据的URBANGROUND交互环境，评测了GPT-...
  3. DeepSeek-V4 模型结构（6）：优化器与稳定性，Muon
    DeepSeek-V4采用Muon优化器，通过谱范数最速下降实现逐矩阵正交化，用Newton-Schulz迭代逼近SVD，混合系数提升小奇异值并精确稳定大...
  4. Kimi K3 模型结构（8）：训练并行，一步训练里谁在等谁
    本文介绍Kimi K3模型预训练的并行系统设计，聚焦MoE层expert并行。核心是MoonEP方案：每个rank预留E/R个冗余expert槽位，确保任...
  5. DeepSeek-V4 模型结构（5）：宽度维度，DeepSeekMoE 的四个改动
    本文介绍DeepSeek-V4模型结构中MoE层的四处改动：路由打分从sigmoid改为sqrt(softplus)以消除饱和；前三层用固定hash ro...
  6. DeepSeek-V4 模型结构（4）：深度维度，mHC
    该文详解DeepSeek-V4的mHC残差结构：将单条残差流拓宽为4条，通过读、写、混三算子连接子层。为保稳定，混合矩阵被约束为双随机矩阵（非负、行和列和...
👤 个人中心
在公众号发送验证码完成验证