频率感知的多模态预训练生物信号掩码自编码器
原文中文,约500字,阅读约需2分钟。发表于: 。利用多模式生物信号的多模式信息对人的身体和心理状态进行全面建模具有重要意义,但多模式生物信号往往在预训练和推断数据集之间存在明显的分布变化,我们提出了一种频率感知的掩码自编码器(bioFAME),它在频率空间中学习参数化生物信号的表示,并利用固定大小的基于傅里叶的操作符进行全局的分词混合,通过在潜在空间中进行掩码自编码以维持每个输入通道中的频率分量,实现了在预训练过程中对多模态信息的有效利用...
bioFAME是一种用于多模式生物信号建模的频率感知掩码自编码器。该方法可以在预训练过程中利用多模态信息,并且可以适应不同任务和模态。在单模态时间序列的迁移实验中,该方法相较于之前的最先进方法平均提升了5.5%,并且具有稳健性。