低标注预算约束下领域特定问答精调策略
原文中文,约300字,阅读约需1分钟。发表于: 。在本研究中,我们通过对不同 QA 数据集上的顺序微调策略的性能进行全面分析,证明了传统的基于预训练语言模型和微调策略在低预算设置下是次优的。我们的实验结果表明,在低预算设置下,最佳策略是使用预训练语言模型,并将其与目标数据集和 SQuAD 数据集进行微调。在不额外标注的情况下,该策略的性能优于标准策略 2.28% 至 6.48%。这些实验结果对于 QA 从业者在低预算下如何最好地微调 QA...
本研究分析了不同QA数据集上的微调策略性能,发现传统的基于预训练语言模型和微调策略在低预算下次优。最佳策略是使用预训练语言模型与目标数据集和SQuAD数据集微调,性能优于标准策略2.28%至6.48%。对QA从业者在低预算下微调QA系统具有实用价值。