本研究提出了A3框架，通过将Transformer层分为三个功能组件，构建低秩近似方法，显著减少模型大小和计算消耗，同时保持优越性能。实验结果表明，A3在计算和内存节省方面优于现有技术，具有广泛应用潜力。

本研究提出了一种新方法，解决设备端学习中的内存和计算约束问题，作为低秩分解的替代方案。实验结果表明，该方法在激活内存使用上可降低120.09倍，并减少训练FLOPs达1.86倍。

本研究提出了一种无监督的图像重建算法，旨在解决自由呼吸和未门控3D心脏MRI中的运动补偿问题。该算法通过低秩模型有效表示运动相位，显著提升了心脏MRI图像的恢复质量。

本研究提出了一种低秩自适应结构先验（LoASP）方法，旨在解决糖尿病性视网膜病分级中的领域泛化问题，提升模型在不同数据源上的表现，并增强可解释性，为诊断提供新思路。

本研究探讨了低秩适应（LoRA）在航拍图像跨域少样本目标检测中的应用。将LoRA集成到DiffusionDet中，结果显示在1-shot和5-shot的低样本设置下，性能略有提升，表明其在资源有限情况下的适应潜力，对少样本学习的微调策略研究具有重要意义。

本研究提出了TenAd方法，以解决深度学习视频分类模型在黑箱对抗攻击中的脆弱性。通过将视频表示为四阶张量，TenAd显著降低了搜索空间和查询次数，提高了攻击成功率和查询效率，生成几乎不可察觉的对抗扰动。

本研究探讨了低秩适应（LoRA）在微调预训练模型时的学习动态，提出了基于梯度流的分析方法。通过谱初始化，改善了原模型与目标矩阵的错位，理论证明小规模谱初始化能以任意精度收敛，实验结果验证了该方法的有效性。

本研究提出JotlasNet，解决动态MRI重建中张量特征和稀疏约束不足的问题，显著提升了重建效果，实验结果在两个数据集上表现优异。

本研究提出了一种高效的优化器设计方法，开发了RACS和Alice优化器，以解决大语言模型的低内存需求和快速收敛问题，显著提升了LLaMA预训练的收敛速度和性能。

本研究提出低张量秩适应（LoTRA）方法，优化Kolmogorov-阿诺德网络在迁移学习中的微调过程，通过自适应学习率策略提升训练效率，并验证其在偏微分方程等任务中的有效性。

本研究提出了一种名为HILO的层次性方案，旨在优化大规模语言模型的微调过程。HILO通过动态调整适配器专家的数量和秩，以适应模型层的复杂性。实验结果表明，HILO在准确性和可训练参数方面优于现有方法，提供了高效的微调解决方案。

本研究提出了一种空间解耦框架，旨在简化低秩优化中的正交不变约束问题。该框架通过将有界秩与约束分解为独立空间，使得在光滑流形上实现Riemannian算法更加容易，实验证明其在实际应用中的优越性。

本研究探讨了布尔函数的秩表征，提出了一种基于Transformer的新型秩表征，并证明识别布尔序列中第k个1的位置需要k个思维链步骤。

本研究提出了一种新型白盒水印技术SEAL，旨在保护低秩适应（LoRA）权重的版权。SEAL通过在可训练的LoRA权重中嵌入秘密矩阵，有效抵御多种攻击，同时保持性能不变。

本研究提出Rank-adaptive Reliability Optimization（RoRA）方法，以解决低秩适应（LoRA）在大型语言模型微调中的性能限制。实验结果表明，RoRA在压缩和未压缩模型上均优于现有技术，尤其在高剪枝率模型中准确性显著提升。

本研究提出GaussianProperty框架，结合SAM的分割能力与GPT-4V的识别能力，解决视觉数据中物理属性估计不足的问题，具有重要应用价值。

本文提出了一种低秩自适应专家组合（MoE-LoRA）方法，旨在提升Segment Anything模型在多模态语义分割中的应用。通过训练MoE-LoRA层并保持SAM权重不变，该方法在多个基准测试中超越现有技术，尤其在缺失模态情况下表现显著提升。