本研究提出了一种蒸馏规模法则，以解决大规模蒸馏模型的性能估计问题。合理的资源分配显著提升了学生模型的性能，并提供了优化蒸馏的方案，促进了实验设计与蒸馏过程的理解。

本文探讨了多种交叉验证方法在机器学习中的应用，特别是在心血管疾病分类任务中的评估。研究发现，留源交叉验证提供了更可靠的性能估计，而新提出的 J-K 折交叉验证方法在自然语言处理任务中表现出更少的变异性。此外，嵌套交叉验证在统计效力和置信度方面优于其他方法，适合小数据集使用。