超越LoRA：探索时间序列基础模型的高效微调技术

提出了一种在临床领域中适应预训练语言模型的方法，通过有选择地微调部分参数以降低计算需求。

结合Downstream LLaMA-LoRA，在多个临床预测任务上取得了最先进的AUROC得分提升，尤其在大规模多标签分类任务中观察到6-9%的AUROC得分改善。

利用预训练的大型语言模型提升时间序列预测能力，采用两阶段的精调过程和多种参数高效精调技术，LLM4TS在长期预测方面取得了最先进的结果。

在胸部放射学基础模型上应用参数高效微调方法，发现其在少于1%的可调参数下，比完全参数微调方法在18个迁移学习任务中表现更好。

研究表明LoRA方法在不同规模的模型和临床决策任务中均能保持高效性能，专用模型在速度和训练成本上具有优越性。

评估Parameter Efficient Fine-Tuning方法在深度学习中的有效性，推动深度学习的更广泛应用和模型优化的创新。

结合深度学习模型和注意力机制的框架，提高其在预测败血症过程中的可解释性，支持临床决策。

探讨了在时间序列数据中使用LoRA对预测严重感染患者生命体征的影响，验证了模型性能的可观提高。

利用SH-PEFT方法在医学诊断中通过训练少量的权重，超越了全模型微调，显示大型模型在医学诊断中的巨大潜力。