本研究探讨了深度正则化的ResNet和Transformer中的神经崩溃现象,发现经过训练的全局最优解接近崩溃状态,且随着网络深度增加,这种近似更加紧密。这一发现为深度模型的应用提供了理论支持,并在计算机视觉和语言数据集上进行了验证。
本文提出了M$^2$AD框架,旨在解决传统异常检测方法在多系统异构时间序列中的不足。该框架通过深度模型捕捉正常行为,并利用高斯混合模型和伽马校准生成全球异常评分,实验结果显示其性能比现有方法提高21%。
本文介绍了一种基于滤波器相关性进行深度模型压缩的方法。该方法通过迭代识别相关性最大的滤波器对,并优化模型以增强其相关性。在每轮去除滤波器后,进行微调以恢复因压缩造成的轻微损失。最终,通过选择最大相关性的滤波器对进行修剪和微调,从而减少模型参数。
FedMHO框架通过在资源充足的客户端使用深度模型和在受限设备上使用轻量生成模型,解决了边缘设备在传统联邦学习中的计算与通信开销问题,提升了训练效率与性能。实验结果显示,FedMHO在多种设置下优于现有技术,展现了其在边缘计算中的应用潜力。
本研究提出了一种新方法,通过黎曼度量生成反事实解释,以解决复杂深度模型预测的可解释性问题。该方法利用解码器和分类器的反引导,生成自然且高保真的反事实轨迹,实验证明其在实际数据集上表现优异,具有重要应用价值。
本文提出了一种利用视觉数据上下文信息优化深度模型训练的方法。研究引入上下文多样性,提出数据修复算法以减少模型偏差,并建议类基注释应对领域转移。优化数据策略和融入人类反馈可显著提升模型在复杂环境下的表现。
本文提出了一种基于高维粒子滤波的置换不变学习框架,旨在解决深度模型中因梯度算法的置换依赖引发的灾难性遗忘和可塑性丧失问题。该框架在训练小批量或任务的顺序上保持不变性,并在监督和强化学习基准测试中显示出显著的性能提升和方差降低。
本文探讨了基于卷积神经网络的自动音乐标记技术,使用mel-spectrogram作为输入,展示了在不同数据集上的性能。研究表明,深度模型和少样本学习方法能有效提升标签分配效率,尤其在长尾标签问题上具有广泛应用潜力。
本文介绍了一种基于RGB-D视频的自动活动识别深度模型,利用3D卷积和最大池化进行活动分类,并能动态调整以适应时间变化。同时,研究综述了深度学习在传感器活动识别中的进展,提出了多种新方法和框架,显著提升了准确性和效率。
本文研究了深度模型强化学习的不足,提出了一种基于变分自编码器的策略嵌入方法,能够从少量示范数据中学习更鲁棒的控制器。探讨了生成模型在强化学习中的应用,包括模仿学习和域自适应等,强调了机器人控制策略的研究前沿和挑战。
该研究提出了一种新算法,通过熵正则化和高斯核矩阵低秩逼近,计算点云间的二次输运度量(2-Wasserstein 距离),其复杂度为 O(n)。研究表明,Wasserstein 距离在逆问题中具有平滑效应,并在有限维度中优化性能优于传统距离。此外,还探讨了收敛速度、优化问题及深度模型的鲁棒性提升。
本文介绍了一种基于小样本数据的去水印方法,结合数据增强和特征空间对齐,有效去除深度模型中的水印而不影响性能。该即插即用水印框架在潜在空间中嵌入水印,具有良好的隐形性和稳健性,适用于多个扩散模型版本,且无需重新训练,为保护深度模型的知识产权提供了新方案。
研究了量化技术在深度模型中的鲁棒性优化问题,发现量化模型易受自然噪声和系统噪声影响,有助于提升模型稳健性和真实场景部署。
本文探讨了利用预训练深度模型提取静态照片中的情感特征,提出了多任务流网络和多模态学习方法,显著提升了情感自动识别的性能。实验结果表明,该方法在多个情感分析竞赛中表现优异,有效提取音频和视觉数据中的情感特征。
本文探讨了利用预训练深度模型提取情感特征的方法,重点在于面部表情、价值和唤起的识别。研究通过多任务学习和多模态特征,展示了在情感分析竞赛中的有效性,并提出了新的模型和方法,显著提高了情感识别的准确性。
本文介绍了在第四届野外情感行为分析竞赛中提出的多任务学习方法,利用深度模型提取情感特征,显著提高了情感分类和评估的准确性。研究表明,基于Transformer的架构和EfficientNet模型在实时视频情感分析中表现优异,尤其在多模态特征提取和情感反应强度评估方面超越了基线方法。
本文研究了深度模型在表格数据上的归纳偏差问题,提出了AMFormer变形器结构,并通过实验验证了其在表格数据建模、训练数据效率和泛化能力方面的优势。
本研究提出了一种新的训练策略,通过使用深度模型来充分利用其建模能力。通过两个不同结构和目标的分离模型,即深度生成模型和基于浅层基函数的模型,来预测系统输出。该方法在三个非线性基准测试上表现出与深度架构相似的性能,并实现了算法透明性和结构效率。
该文介绍了深度模型在推断计算方面的进展,但指出了普适性对抗贴片攻击的影响。攻击者通过优化贴片,将其粘贴到图像上可以增加模型计算量和功耗。标准对抗性训练防御方法可以减少攻击成功率,但需要采用自适应高效的方法降低深度模型功耗,并开发更好的防御方法。
该文介绍了深度模型在推断计算方面的进展,但指出这些模型容易受到对抗贴片攻击的影响。攻击者通过优化一个贴片,将其粘贴到任意图像上可以增加模型的计算量和功耗。作者运行实验使用了三种不同的高效视觉转换器方法,显示在某些情况下,攻击者只需将一个只占图像面积的 8% 的贴片粘贴上即可将计算量增加到最大限度。同时,作者还展示了标准对抗性训练防御方法可以减少攻击的成功率。作者呼吁未来需要采用自适应高效的方法来降低深度模型的功耗,并开发更好的防御方法来对抗这种攻击。
完成下面两步后,将自动完成登录并继续当前操作。