本研究提出IM-BERT,通过将BERT的层视为常微分方程求解的动态系统,解决了大规模模型在有限数据集上易受对抗攻击和过拟合的问题。IM-BERT在低资源场景下显著提高了模型的对抗鲁棒性,实验表明其在AdvGLUE数据集上的性能提升约8.3%。
本研究分析了数据集制图在SQuAD数据集上对抽取式问答的影响,结果显示其对模型的泛化能力和对抗鲁棒性几乎没有提升。
本文提出了CLIPure方法,旨在构建对抗鲁棒的零样本图像分类器。通过在CLIP的多模态潜在空间中进行净化,显著提升了分类器在CIFAR-10和ImageNet数据集上的鲁棒性。
本研究探讨神经网络在JPEG AI图像压缩中的对抗鲁棒性,提出了一种新方法来测量压缩后的对抗攻击鲁棒性,并首次进行大规模评估,结果对相关领域具有重要影响。
本研究提出了BEARD基准,用于评估数据集蒸馏方法在高压缩比情况下的对抗鲁棒性。通过对抗游戏框架引入三项关键指标,实验结果表明BEARD为研究人员提供了标准化的评估机制,推动了对抗鲁棒性研究。
本研究提出通过权重曲率指数(WCI)来理解对抗鲁棒性的泛化,量化模型对抗扰动的脆弱性,为设计更坚韧的深度学习模型提供重要见解,增强其可靠性与安全性。
本文探讨了基于神经网络的无参考视频质量度量方法及其对抗鲁棒性,提出了快速对抗扰动攻击方法(FACPA)以提高实时视频处理的稳定性。研究分析了15种质量度量在对抗攻击下的表现,发现部分度量具有较强的抵抗能力。此外,提出了ReLaX-VQA模型,验证了其在无参考视频质量评估中的优越性,并研究了图像质量评估中的防御策略。
该研究探讨了神经网络的对抗鲁棒性,提出了多种训练方法,如最大间隔对抗训练(MMA)和子空间对抗训练(Sub-AT),以增强模型在对抗攻击下的鲁棒性。研究引入了双层博弈框架和超空间投影防御机制,显著提升了模型性能和稳定性。此外,针对对抗训练导致的准确性下降,提出了切向方向引导的对抗训练(TART)方法,结合几何特性改善鲁棒性。
Adversarial Robustness Toolbox是一个Python库,旨在增强机器学习模型的安全性和鲁棒性。文章探讨了多种算法和架构设计,以提升模型对抗攻击的防御能力。研究表明,结合真实与生成数据训练可以提高分类器的准确性和鲁棒性,同时优化神经网络的拓扑结构也能显著增强鲁棒性。
本文介绍了一种新型数据依赖性结构化梯度正则化器,旨在增强神经网络的对抗鲁棒性。实验证明,该方法在小数据集和对抗训练中表现优异,能够有效防御低水平信号污染攻击,提高模型的准确性和泛化能力。
本文探讨神经网络损失地形中的线性模式连接(LMC),分析架构、训练策略和数据集对其影响。提出新的线性连接概念LLFC,并通过实验验证其在深度网络优化中的重要性。研究表明,特定架构的不变性对实现LMC至关重要,同时探讨了对抗鲁棒性与模态连通性的关系,揭示了优化过程中的内在规律。
本文研究了多种改进的低秩适应(LoRA)算法及其在神经网络微调中的应用。提出的LoRA$+$、ALoRA、RoLI、PLoRA等方法提高了微调性能和速度,优化了内存使用,并在多个数据集上取得了优异结果。研究还探讨了对抗鲁棒性和最佳实践,强调了LoRA在正则化和任务表现保持方面的优势。
本文探讨了信息瓶颈方法在深度神经网络中的应用,提出了多视角子空间聚类框架和Drop-Bottleneck方法,显著提升了分类性能和对抗鲁棒性。这些方法在多个数据集上表现优越,有效去除冗余信息并增强模型稳定性。
本文探讨了基于神经网络的图像和视频质量度量的对抗鲁棒性,分析了15种无参考质量度量在不同对抗攻击下的表现。研究发现某些度量具有较强的抵抗能力,并提出了快速对抗扰动攻击方法(FACPA)和新型对抗性贴片(TPatch、MVPatch),以提高攻击的隐蔽性和转移性。强调了防御方法的重要性,推动了对象检测和分类网络的韧性发展。
本文研究了深度学习模型在检测内外分布输入时的对抗鲁棒性,提出了ALO算法,通过对抗训练提升了OOD检测的鲁棒性。研究表明,现有方法在OOD泛化上存在不足,提出了OODRobustBench基准以评估鲁棒性,并指出额外数据和特定正则化方法能够增强OOD鲁棒性。
该文综述视觉-语言模型对抗鲁棒性研究,涵盖多种方法:AdvPT提升图像编码器鲁棒性;文本增强实现CLIP免重训稳健增强;MVP通过改进输入提升对抗稳健性;Approximated Prompt Tuning降低计算复杂度;提示对抗攻击与训练;视觉提示适应下游任务;评估开源模型脆弱性;发现提示调整可抗标签噪声;多尺度特征提示应对分布偏移。
语义解析研究综述:提出注意力增强的编码器-解码器通用方法,无需高质量词汇表、手工模板和语言特征,可跨领域迁移。基于句法分解的方法在CFQ上以1%训练数据取得最优结果。神经语义解析器将自然语言映射为逻辑形式,采用转换方法生成树形结构,结合注意机制解决标记不匹配。分层解码器和格点表示等新方法提升性能与可解释性。对抗攻击鲁棒性研究构建测试集并评估数据增强效果。
该文综述对抗鲁棒性研究:深度网络生成的对抗样本可在相似网络间迁移,且更强模型更难被攻击;连续学习会遗忘鲁棒性,为此提出双梯度投影法。此外还涉及FLAT特征级对抗训练、MAAR防御、公平鲁棒学习框架及集中/分散对抗训练等方法,并揭示鲁棒性与标准泛化存在固有矛盾。
该文综述深度学习在信号处理中的鲁棒性与安全性研究,涵盖稀疏对抗扰动、数据增强、雷达与无线电信号分类、对抗攻击检测及乳腺癌筛查。研究提出多种防御方法,如“deep defense”正则化、贝叶斯不确定性检测、元学习双网络框架及早期退出神经网络,实验证明可提升模型稳健性并降低计算成本。
该文综述决策树与树集成算法的对抗鲁棒性研究,涵盖Treant抗攻击学习、混合整数规划与符号预测干扰、集成对抗训练、Born-Again树可解释性、攻击树风险评估、AdaEA自适应集成攻击及成本驱动鲁棒决策树等方法,旨在提升模型抗干扰能力并兼顾可解释性。
完成下面两步后,将自动完成登录并继续当前操作。