本研究提出了一种高效的基于行的稀疏微调框架，通过识别“重要”神经元进行微调，显著提高内存效率，同时保持模型精度。该方法在有限计算资源下优化基础模型微调，训练时间和复杂性未增加。

本研究提出了一种异质性感知个性化联邦学习方法HAPFL，旨在解决传统联邦学习中的模型精度损失和延迟问题。该方法通过多层次强化学习机制优化客户端模型分配和训练强度，显著提升训练效率和精度，实验结果表明HAPFL有效减少了训练时间和延迟。

Scaling Law由百度于2017年提出，研究了深度学习中训练集大小、计算规模与模型精度的关系。实证研究表明，泛化误差与训练集大小呈幂律关系，模型大小与数据大小存在缩放关系。这一发现对深度学习的研究和实践具有重要影响，助力模型调试和系统设计。

该文章探讨了机器学习在流体力学中的应用，包括其历史、现状和未来机会。机器学习提高了流体动力学模型的精度和计算速度，优化了模拟过程，并在实验流体力学中展现出重要前景。研究表明，机器学习能够有效处理复杂流动并提高模拟质量。

本研究提出了聚簇联合学习框架及迭代联合聚类算法，分析其在神经网络等非凸问题中的有效性。评估多种联邦学习方法，显示在隐私保护、统计异质性和通信效率方面的优势，尤其是FedClust方法在模型精度和收敛速度上显著优于其他技术。

本文介绍了多种联邦学习算法，包括FedPower、Fast FL、FedNew、FedDM和Upcycled-FL，旨在提高通信效率和数据隐私保护。这些算法在减少通信轮次、提高模型精度和保持差分隐私方面表现优异，为未来研究提供了指导。

本文介绍了一种基于稀疏位移层（SSL）的卷积神经网络构建方法，优化了网络结构，实现高准确率和速度。提出自适应多相采样（APS）方案，确保卷积神经网络的“移位一致性”。研究还探讨了通过转移学习提高训练效率，并提出新的CNN设计方法，以减少推理计算量，提升模型精度和鲁棒性。

该研究提出了一种工业联邦学习系统，旨在优化边缘设备的协作与知识转移。通过新方法CPFL，减少了训练时间和资源使用，同时保持模型准确性。研究还探讨了聚类方法HCFL及其增强版本HCFL+，并提出自适应聚合权重算法，强调客户选择的重要性。FedClust方法在非独立同分布数据上显著提高了模型精度和收敛速度。

本文提出了一种新的自监督文本擦除框架，通过联合学习合成图像和现实文本的擦除，实现无监督场景文本擦除。同时，研究介绍了一种基于像素级原型对比度的弱监督语义分割方法，以提高模型精度，并在多个数据集上评估，取得显著效果。

本研究提出了联邦分类器平均（FedClassAvg）方法，通过聚合分类器权重来增强决策边界，支持不同神经网络架构的客户端学习稀缺标签。该方法通信效率高，性能优于现有算法。此外，还介绍了WeiAvg和FedDWA等新算法，均在减少通信负担和提高模型精度方面表现出色。

本研究探讨了自动语音识别模型中的记忆化现象，并提出通过梯度剪裁减轻其对训练速度的影响。不同剪裁方式在准确性和内存消耗上存在权衡，粗粒度剪裁通常提供最佳准确性。此外，研究提出了新型数据处理方法CLIP，结合课程学习和数据修剪，提高模型学习精度和收敛速度。实验结果表明，该算法在多个任务上优于现有方法。

本文介绍了一种针对Out-of-Distribution（OOD）数据的神经架构搜索（NAS）算法，该算法通过数据生成器进行稳健搜索，并通过最大化损失合成OOD数据，实现神经架构与数据生成器的共同优化。该算法在多个基准测试中表现优异，显著提升了模型的稳健性和精度。

AdaFed 是一种改进的联邦学习方法，通过自适应调整服务器更新方向，提高客户端损失函数的收敛速度。研究表明，AdaFL 算法在模型精度和通信效率上优于 FedAvg。FedALA 和 FedLADA 等算法进一步提升了准确性和收敛速度，同时探讨了适应性优化方法以解决偏差问题。这些算法在不同数据集上表现出显著的性能提升。

本文提出了多种个性化联邦学习算法，如pFedSim、CA-Fed和FedIIC，旨在提高模型精度并降低计算和通信开销。研究表明，CA-Fed在处理异构客户时表现优越，FedIIC通过对比学习缓解训练偏差。FedCos和Fed-CO2增强了模型的通信效率和领域泛化能力，而FedCOME和FedSSA则通过优化客户端选择和知识传递提升了联邦学习的效果和效率。

本文探讨了物理知识驱动神经网络（PINNs）中优化器选择对模型精度的影响，提出通过跟踪训练轨迹的曲率来解释优化效果的差异。研究表明，较大的本地曲率值有助于提高解决方案质量，并总结了改进PINNs训练效率的最佳实践。此外，文章还评述了PINNs在解决偏微分方程中的应用及其面临的理论挑战。

本文提出了一种基于提示学习的无监督领域自适应方法DoPrompt，通过嵌入源域知识来改善目标域的预测。实验结果显示，该方法在多个基准数据集上显著提高了模型精度，有效解决了领域泛化问题，并减少了源域与目标域之间的分布差异。

本文探讨了物理信息机器学习（PIML）在动态系统建模、控制及水资源管理中的应用，强调其在提高模型精度和效率方面的潜力。PIML结合物理机制与机器学习，解决复杂物理和生物系统问题，尤其在石油、天然气及水文学领域推动了技术的发展。

作者提出了Differentiable Tree Search (DTS)神经网络架构，通过嵌入最佳优先在线搜索算法，解决了模型精度不准确导致的性能问题。DTS通过可微的在线搜索和优化世界模型，减轻模型不准确性的影响。实验结果表明，DTS优于无模型和有模型的基准算法。

量子计算在机器学习中的潜力使得核计算和模型精度得到显著提高。通过使用量子核和支持向量机，先前研究观察到了显着的平均精度改进。随机测量和可变子采样集合方法能够减少计算核的时间复杂度，同时提高了训练和推断时间的效率。实验结果表明，随机测量的平均精度优于经典径向基函数核。这为进一步研究可扩展、高效的量子计算在机器学习中的应用提供了有希望的线索。