小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
语音增强中的自监督学习:从无配对训练到基础模型先验

语音增强(SE)面临数据、目标和任务等挑战,自监督学习(SSL)逐渐成为解决方案。SSL通过未配对数据学习和生成式方法,重塑了SE的训练目标。研究表明,SSL特征在增强任务中有效,未来将关注多任务统一增强、低信噪比生成模型及可控的语音生成。整体来看,SSL为SE提供了更强的先验和设计空间。

语音增强中的自监督学习:从无配对训练到基础模型先验

实时互动网
实时互动网 · 2026-06-03T06:35:16Z

神经网络本质上是一个函数,通过输入输出结果来工作。训练过程是调整参数以使输出接近预期。深度学习利用多层结构和非线性激活函数来拟合复杂关系,能够有效处理高维数据。理解神经网络的关键在于明确输入、输出和参数的关系。

【Transformer 与注意力机制】04. 函数与神经网络:从 y=f(x) 到一台可学习的拟合机器

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-04-15T00:00:00Z
word2vec究竟学习了什么?

word2vec通过学习词的密集向量表示,利用对比算法捕捉词之间的语义关系。研究表明,word2vec在离散学习步骤中逐步增量学习概念,最终通过主成分分析(PCA)提取特征,为自然语言处理中的特征学习提供了重要基础。

word2vec究竟学习了什么?

The Berkeley Artificial Intelligence Research Blog
The Berkeley Artificial Intelligence Research Blog · 2025-09-01T09:00:00Z

本研究提出双头优化(DHO)框架,旨在解决资源有限环境中视觉语言模型(VLMs)的计算复杂性和训练成本问题。DHO通过独立学习标记数据和教师预测,显著提升特征学习效率,并在多个领域和数据集上超越传统基线。

A Simple Semi-Supervised Knowledge Distillation Method via Dual-Head Optimization

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-12T00:00:00Z

本研究提出了一种多视角视觉提示调优网络(MVPT-NET),旨在提升乳腺X光照片中乳腺癌的检测能力。该方法基于单视图模型,创新性地适应多视图特征学习,实现高效调优,并在多机构数据集上取得了优异的检测效果。

Breast Cancer Detection from Multi-View Screening Mammograms with Visual Prompt Tuning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-28T00:00:00Z

本研究提出了一种新的半监督分割框架HDC,旨在解决胎儿超声图像中颈部结构的精确分割问题。该方法通过层次蒸馏机制和一致性学习,在低对比度和模糊边界条件下有效提升特征学习。实验结果表明,HDC在超声数据集上的表现优于现有模型,且计算开销更低。

Hierarchical Distillation: Multi-level Noisy Consistency for Semi-Supervised Fetal Ultrasound Segmentation

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-14T00:00:00Z

本研究提出了一种基于小波的双分支网络,旨在提高多视角糖尿病视网膜病变检测的效果。通过交叉视图融合模块,减少信息冗余,显著提升了对局部病变特征及其全局依赖关系的学习能力。实验结果表明,该方法在大规模公共数据集上表现优异。

Application of Wavelet-based Global-Local Interaction Network with Cross-Attention in Multi-View Diabetic Retinopathy Detection

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-25T00:00:00Z

本研究提出了解析子空间路由(ASR)方法,以解决大语言模型在连续微调中出现的知识衰减问题。该方法有效地隔离特征学习,兼顾新旧知识,实验结果表明显著改善了现有方法的局限性。

Analyzing Subspace Routing: The Application of Recursive Least Squares Method in Continuous Learning of Large Language Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-17T00:00:00Z
简化自监督视觉:编码率正则化如何改变 DINO 和 DINOv2

DINO和DINOv2模型用于从未标记图像中学习特征,但训练复杂且不稳定。SimDINO和SimDINOv2通过引入编码率正则化项,简化了训练过程,提高了稳定性和效率,表现优于前者,适合视觉自监督学习。

简化自监督视觉:编码率正则化如何改变 DINO 和 DINOv2

实时互动网
实时互动网 · 2025-02-28T02:58:31Z

本研究提出了一种通用方法,通过非线性特征学习和跨层特征聚合,检测大型语言模型(LLM)内部知识的准确性和可用性。结果表明,该方法在识别虚假信息和不实内容方面表现优异,并能有效引导模型输出新概念。

Aggregate and Conquer: Detecting and Steering Concepts of Large Language Models by Combining Nonlinear Predictors Across Multiple Layers

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-06T00:00:00Z

本研究提出了一种针对B模式超声图像的对比自监督学习方法,通过关系对比损失函数(RCL)提升特征学习。结果表明,该方法在乳腺超声数据集上显著优于传统监督分割,尤其在数据有限时展现出更强的泛化能力。

Enhancing Generalization Capability of Self-Supervised Framework in Ultrasound B-Mode Image Segmentation

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-04T00:00:00Z

本研究提出Q-ASC系统,通过量子理念提升物联网声景分类的特征学习和抗噪能力,显著提高分类准确率,展示智能声感应用的潜力。

Quantum-Enhanced Transformer for Robust Soundscape Classification in IoT Environments

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-16T00:00:00Z

本研究评估了多种特征学习和预测方法,以提高小型和中型出版商学术文献的元数据提取效率和准确性。结果表明,不同方法在提取效果上存在显著差异,为未来研究提供了指导。

Comparison of Feature Learning Methods for Metadata Extraction from PDF Scholarly Documents

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-09T00:00:00Z

本研究提出了一种新颖的可视化解释方法UniCAM,旨在解决知识蒸馏中教师与学生之间知识转移的不透明性。实验结果表明,学生模型在教师的指导下能够更有效地学习相关特征。

Explaining Knowledge Distillation: Measuring and Visualizing the Knowledge Transfer Process

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-18T00:00:00Z

本文介绍了一种新的卷积神经网络——预定义滤波卷积神经网络(PFCNN),其卷积核在训练过程中保持不变。尽管存在这一限制,PFCNN仍能有效学习复杂特征,为深度卷积神经网络的信息处理提供新的视角。

Application of Convolutional Neural Networks under Predefined Filters

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-27T00:00:00Z

本研究探讨了预训练视觉变换器(ViT)对下游任务性能的影响,发现预训练特征并非必要。通过注意力转移,学生模型能够从零开始学习高质量特征,表现出良好的性能,为理解预训练提供了新的视角。

注意力转移在视觉变换器中的惊人有效性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-14T00:00:00Z

本研究探讨了多模态与单模态对比学习的理论差异,揭示信号与噪声比对泛化能力的影响,表明多模态学习显著提升特征学习效果,实证实验验证了这一发现。

A Comparative Study of Multimodal and Unimodal Contrastive Learning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-05T00:00:00Z

本研究提出了多个新数据集和框架,探索视觉语言模型(VLMs)和多模态大型语言模型(MLLMs)的应用。研究发现,基于ImageNet和iNat2021的特征学习优于自我监督方法,且MLLMs在复杂任务中表现出色。通过自然语言交互减少标记工作量,提升了模型在图像分类和科学图表理解方面的性能,具有重要应用潜力。

AiSciVision:一个针对科学图像分类专业化大型多模态模型的框架

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-28T00:00:00Z

本研究利用随机矩阵分析探讨全连接两层神经网络的特征学习及其与泛化能力的关系,揭示特征谱的渐进性质。结果显示,在最大学习率下,特征学习显著提升了泛化能力。

Learning Feature Spectrum and Asymptotic Generalization Ability from the Perspective of Random Matrix Theory

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-24T00:00:00Z

本文探讨了基于稀疏编码的特征学习与提取方法,提出了多种新算法以提升图像识别性能。研究表明,改进的卷积神经网络与稀疏特征抽样技术结合,能够在较低计算成本下实现高效的图像分类和语义分割。

WARP-LCA:基于局部竞争算法的高效卷积稀疏编码

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-24T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码