本文研究了模型微调与超参数优化的关系，提出了两种策略和实验流程。实验结果表明，在合适的搜索空间和时间预算下，超参数优化能够成功，但仍可能导致过拟合。此外，探讨了参数高效微调方法在低资源文本分类中的应用，强调了主动学习与微调的结合，并提出了新算法以提高微调的性能和效率。

本文探讨了基于基础模型的主动学习和参数高效微调（PEFT）策略，强调其在少样本图像分类和低资源文本分类中的应用。研究表明，局部微调和重要性评分机制能够有效提升模型性能和适应性，减少已训练知识的损失。PEFT方法在医学成像任务中表现优异，推动了相关领域的研究进展。