小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究探讨了自监督学习中宽神经网络的核行为与损失函数之间的关系。通过分析Barlow Twins损失下的两层网络,证明了当网络宽度趋近无穷大时,NTK变为常数,从而为理解宽神经网络提供了理论基础,并推导了泛化误差的界限。

Infinite Width Limit of Self-Supervised Neural Networks

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-17T00:00:00Z

BarlowTwins-CXR 通过自监督学习策略显著提高了胸部 X 射线图像异常定位的效率和准确性,超越了传统的迁移学习方法,并有效地解决了跨域场景中的领域不一致问题。我们的实验结果表明,利用自监督学习可以提高在医学环境中具有有限异构数据的模型的泛化能力。

BarlowTwins-CXR:跨领域自监督学习增强异质数据中的胸部 X 光异常定位

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-02-09T00:00:00Z

本文介绍了使用Barlow Twins自我监督学习算法进行预训练的模型,在小型标记皮肤病变数据集上微调后,在大型测试集中取得了70%的平均测试准确率。相比于监督转移学习的66%,结果表明在标记困难的环境中收集更多未标记图像可能是一种获取更多标记数据的替代途径。适用于低标记数据情境下的癌症图像分类模型。

有限训练数据下的自监督学习用于皮肤癌诊断

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-01-01T00:00:00Z

Barlow Twins是一种自监督学习方法,通过测量两个网络中输入扭曲样本的相关性矩阵,最小化嵌入向量之间的冗余。该方法在低数据范围内的半监督分类上表现优异,并在ImageNet分类和分类与目标检测的转移任务上与最先进的方法相媲美。

用混合样本对 Barlow 双胞胎防止过拟合

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-12-04T00:00:00Z

该文介绍了一种使用Barlow Twins训练自监督编码器的技术,可以从未标记的数据中学习,减少注释样本的数量,并在语义场景分割任务中应用。实验结果表明,无监督预训练可以提高性能,特别是对于少数类别。

基于地势信息的自主学习:利用有限注释增强 LiDAR 数据中的建筑物提取

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-11-02T00:00:00Z

本研究探讨了不同形式的Barlow Twins(BT)目标函数对语音数据下游任务性能的影响。提出了带有归一化潜变量的Modified Barlow Twins(MBT)以实现尺度不变性,并在说话人识别、性别识别和关键词检测任务中进行了评估。结果表明MBT相对于原始BT提高了表示泛化能力,尤其是在目标数据有限的微调过程中。这强调了设计鼓励不变性和可转移表示的目标函数的重要性。研究揭示了如何定制BT学习目标以产生适应新的下游任务的语音表示,是发展可重复使用的自监督语音表示的重要一步。

通过不变性和冗余减少理解语音表示的自监督学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-09-07T00:00:00Z

研究人员通过Barlow Twins训练自监督编码器进行预训练,提出了一种从未标记的数据中学习的技术,以减少注释样本数量,并在语义场景分割任务中应用。实验结果表明,无监督预训练在有监督任务上进行微调后,能够显著提高性能,尤其是对于少数类别。

自监督预训练提升激光雷达数据的语义场景分割

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-09-05T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码