量子位
·
阿里通义开源「推理+搜索」预训练新框架：小模型媲美大模型，多个开放域问答数据集表现显著提升
💡
原文中文，约3200字，阅读约需8分钟。
📝
内容提要
阿里通义实验室推出MaskSearch框架，提升大模型推理与搜索能力。小模型表现接近大模型，兼容监督微调和强化学习，显著提升开放域问答性能。通过检索增强型掩码预测任务，模型有效学习信息处理与搜索引擎使用，适应多领域任务。
🎯
关键要点
-
阿里通义实验室推出MaskSearch框架，提升大模型推理与搜索能力。
-
小模型表现接近大模型，兼容监督微调和强化学习。
-
MaskSearch通过检索增强型掩码预测任务有效学习信息处理与搜索引擎使用。
-
MaskSearch的预训练任务为检索增强型掩码预测（RAMP），模型需借助外部知识库预测被掩盖的文本片段。
-
MaskSearch在多个开放域问答数据集上显著提升性能，尤其在领域外数据集上表现突出。
-
监督微调和强化学习两种训练方式与MaskSearch框架兼容，RL在RAMP任务上展现更高性能。
-
课程学习策略通过难度分级训练样本，帮助模型逐步提升推理能力。
-
掩码策略和奖励函数对模型性能有显著影响，需与模型能力匹配以获得最佳效果。
-
MaskSearch致力于提升大型语言模型的智能体推理与搜索能力，实现外部知识的深度整合。
❓
延伸问答
MaskSearch框架的主要功能是什么？
MaskSearch框架旨在提升大模型的推理与搜索能力，尤其在开放域问答任务中表现显著。
小模型在MaskSearch框架下的表现如何？
小模型在MaskSearch框架下的表现接近大模型，显示出显著的性能提升。
MaskSearch如何进行预训练？
MaskSearch通过检索增强型掩码预测任务（RAMP）进行预训练，模型需借助外部知识库预测被掩盖的文本片段。
MaskSearch框架支持哪些训练方法？
MaskSearch框架兼容监督微调（SFT）和强化学习（RL）两种训练方法。
课程学习策略在MaskSearch中的作用是什么？
课程学习策略通过难度分级训练样本，帮助模型逐步提升推理能力。
MaskSearch在开放域问答数据集上的表现如何？
MaskSearch在多个开放域问答数据集上显著提升性能，尤其在领域外数据集上表现突出。
➡️
