探索使用DistilBERT进行文本分类的微调模型中的变异性

本研究针对使用DistilBERT模型进行文本分类的微调策略进行了评估，重点探讨超参数如学习率、批量大小和训练轮数对模型性能的影响。研究发现，超参数之间的相互作用显著影响模型各项评估指标，特别是在非线性超参数交互方面的微调策略能有效平衡不同性能指标的权衡，具有广泛的应用潜力。