本研究提出了一种基于示例的解释技术(EBE-DNN),解决了现有方法仅适用于少数模型的问题。EBE-DNN能够通过少量示例提供高效的示例归因,并保持与原始模型的准确度一致,嵌入层的选择对准确度有显著影响。
本研究提出了一种Top-Theta注意力方法,通过补偿阈值有效剪枝不重要的注意力元素,从而降低变压器模型的计算复杂性。在生成解码阶段,该方法将V缓存行数减少了3倍,在预填充阶段则降低了10倍的注意力元素数量,同时保持了模型的准确度。
本文介绍了FedLin框架应对分布式学习中的异质性和通信挑战,确保线性收敛至全局最小点。研究提出FedAlign解决数据异构性问题,FedDecorr缓解维度崩溃,分析标签噪声对模型准确度的影响,并探讨算法稳定性与客户端数据异质性的关系。最后,提出个性化微调方法以提升模型在对抗性客户端下的表现。
本文调研了时间序列数据增强技术及其在神经网络分类中的应用,提出多种方法并进行了实证评估。研究表明,数据增强显著提高模型准确度,尤其在数据稀缺情况下。通过小波分析和新颖网络结构,探索了多变量时间序列模型的性能,强调多样化增强策略的重要性。
本文介绍了多种针对联邦学习的稀疏化技术,包括公平性感知的梯度稀疏化方法、FLARE算法和时间相关稀疏化方案。这些方法通过优化训练时间和通信效率,提高了模型的准确度和稀疏性,尤其在低客户端参与率下表现突出。研究表明,采用这些新技术可实现更高的训练效率和准确性。
完成下面两步后,将自动完成登录并继续当前操作。