自适应频率泛锐化与专家混合

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文介绍了一种频率感知的掩码自编码器(bioFAME),用于全面建模多模式生物信号。bioFAME在预训练过程中充分利用多模态信息,适应不同任务和模态。实验结果显示,与之前方法相比,bioFAME在分类准确度上平均提升了5.5%,且具有模态不匹配的稳健性。

🎯

关键要点

  • 多模式生物信号对身体和心理状态建模的重要性

  • 多模式生物信号在预训练和推断数据集之间存在分布变化

  • 提出频率感知的掩码自编码器(bioFAME)

  • bioFAME在频率空间中学习生物信号的表示

  • 使用傅里叶操作符进行全局分词混合

  • 通过掩码自编码维持输入通道中的频率分量

  • bioFAME在预训练中有效利用多模态信息

  • 能够无缝适应不同任务和模态

  • 在分类准确度上平均提升5.5%

  • 架构在模态不匹配情况下具有稳健性

  • 证明了bioFAME在实际应用中的实用性

➡️

继续阅读