本研究提出了一种新的参数高效调优（FPET）方法，旨在解决大型预训练模型的推理延迟和计算开销问题。FPET通过引入令牌冗余减少模块，提高了推理速度和训练效率，同时保持高存储效率，实验结果表明其在推理速度和内存效率上优于传统方法。

本文介绍了PETAL、CREC和IISAN等新颖的视觉-语言模型训练方法，强调了参数高效调优和迁移学习在降低训练成本和提升性能方面的优势。这些方法在少样本设置和遥感数据处理上表现出色，展现了良好的应用潜力和灵活性。

本文综述大语言模型对齐方法，包括：DPO算法比RLHF更稳定简单；自我奖励迭代DPO提升指令遵循能力；SALMON利用合成偏好数据实现自动对齐；SELF-ALIGN减少人工监督；语言反馈模型提升任务完成率；反事实提示对齐模型风格；MEET实现参数高效调优；自然语言反馈提升数据效率；差分隐私保护对齐隐私；概念引导生成更具常识性输出。

该文综述参数高效调优（PET）在大型语言模型持续任务适配中的进展，涵盖ConPET、CPET、UniPT、FFDAPT、TF-CL、主动学习、网络剪枝搜索、PETAL及DCP等成果。