小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究提出了一种名为TLC的方法,通过批归一化层压缩深度神经网络,解决了过度参数化导致的计算资源消耗问题,并在多种模型和任务中验证了显著的性能提升。

Till the Layers Collapse: Compressing Deep Neural Networks through Batch Normalization Layers

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-19T00:00:00Z

本文探讨了神经网络中的神经崩溃现象,分析了交叉熵损失函数在特征模型中的全局优化景观。研究表明,神经崩溃普遍存在于深度学习中,影响优化和泛化能力。提出无约束层剥模型,证明其在全局最小化时表现出神经崩溃现象,并探讨了批归一化和权重衰减的影响。

带权重衰减训练的宽神经网络显著展现神经崩溃的现象

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-07T00:00:00Z

本文分析了脉冲神经网络(SNN)的优缺点,并介绍了多种新方法,如基于阈值的批归一化和时间效率训练,以提升SNN在图像识别中的准确率。此外,研究提出了AutoSNN架构搜索和基于脉冲扩散模型的生成模型,展示了其在多个数据集上的优越性能,推动了脉冲神经网络的发展。

脉冲扩散模型

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-29T00:00:00Z

本研究发现,对抗训练中的批归一化(BN)对模型训练的影响较小,而分离仿射参数的作用更大。研究还发现对抗样本与干净样本之间的领域差距较小,与对模型准确性的影响不一致。提出了双任务假设作为混合式对抗训练的改进,并探讨了测试时的对偶BN和仿射参数在推理过程中的作用。

用于对抗鲁棒性的自适应批标准化网络

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-20T00:00:00Z

利用传感器技术和机器学习,提出了一种基于批归一化的反向传播神经网络的非侵入性糖尿病诊断方法。实验结果显示相对传统方法在准确度、敏感度和特异度上有显著提高,特别是在Pima糖尿病数据集中达到了89.81%的准确度。在CDC BRFSS2015数据集中达到了75.49%的准确度,在Mesra糖尿病数据集中达到了95.28%的准确度。显示了深度学习模型在稳健糖尿病诊断方面的潜力。

利用机器学习技术在阿根廷对糖尿病风险人群的首次识别体验

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-27T00:00:00Z

研究人员提出了一种基于批归一化的反向传播神经网络(BPNN)的非侵入性糖尿病诊断方法,通过传感器技术和机器学习。实验结果显示,该方法在整体准确度、敏感度和特异度上显著提高,特别是在Pima糖尿病数据集中达到了89.81%的准确度。深度学习模型在稳健糖尿病诊断方面具有潜力。

深度学习在糖尿病诊断中的应用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-12T00:00:00Z

该文介绍了一种新的识别方法DA-FSOS及其模型DAFOSNET,用于域自适应少样本开放集识别。该模型使用元学习架构,创建伪开放空间决策边界,增强数据密度,并提出特定于域的批归一化类原型对齐策略。在多个数据集上验证了其有效性。

混合专家用于开放域自适应:一种双空间检测方法

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-11-01T00:00:00Z

本文介绍了一种带有线性激活函数和批归一化的多层感知机模型,证明了其正向信号传播特性的精确表征。同时,提出了一种激活函数塑形方案,能够在某些非线性激活函数下实现类似的特性。在线性独立的输入样本情况下,该模型能够渐近地保持梯度有界的特性。

趋向无深度限制的训练:无梯度爆炸的批归一化

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-03T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码