自适应频率泛锐化与专家混合
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
本文介绍了一种频率感知的掩码自编码器(bioFAME),用于全面建模多模式生物信号。bioFAME在预训练过程中充分利用多模态信息,适应不同任务和模态。实验结果显示,与之前方法相比,bioFAME在分类准确度上平均提升了5.5%,且具有模态不匹配的稳健性。
🎯
关键要点
-
多模式生物信号对身体和心理状态建模的重要性
-
多模式生物信号在预训练和推断数据集之间存在分布变化
-
提出频率感知的掩码自编码器(bioFAME)
-
bioFAME在频率空间中学习生物信号的表示
-
使用傅里叶操作符进行全局分词混合
-
通过掩码自编码维持输入通道中的频率分量
-
bioFAME在预训练中有效利用多模态信息
-
能够无缝适应不同任务和模态
-
在分类准确度上平均提升5.5%
-
架构在模态不匹配情况下具有稳健性
-
证明了bioFAME在实际应用中的实用性
➡️