BriefGPT - AI 论文速递 · 2025-01-21T00:00:00Z

Improving Influence-based Instruction Tuning Data Selection for Balanced Learning of Diverse Capabilities

📝

内容提要

本研究提出BIDS算法，解决大型语言模型在指令微调中训练数据选择不平衡的问题。该算法通过规范化影响分数，迭代选择最具影响力的训练实例，从而提升不同任务间的性能平衡。实验结果表明，BIDS在多个基准测试中优于现有方法，增强了多样化能力的学习。

🏷️

标签

BIDS算法 多样化能力 性能平衡 指令微调 训练数据选择