本研究提出了一种名为HILO的层次性方案，旨在优化大规模语言模型的微调过程。HILO通过动态调整适配器专家的数量和秩，以适应模型层的复杂性。实验结果表明，HILO在准确性和可训练参数方面优于现有方法，提供了高效的微调解决方案。

本文介绍了通用类别发现（GCD）任务及其挑战。作者提出了HiLo网络，它能够提取高级语义特征和低级领域特征，并通过最小化表示之间的相互信息来处理不同领域的图像。作者还使用领域增强和课程学习方法来扩展他们的方法，并在真实世界领域转移中重新实现了许多GCD基线。实验证明HiLo在所有评估中都优于其他类别发现模型。