基于 Transformer 编码器和生成对抗网络从脑电图记录中生成视觉刺激
原文中文,约300字,阅读约需1分钟。发表于: 。使用对抗性深度学习框架,利用脑电图信号合成图像是这项研究的主要目标之一,通过 Transformer - 编码器生成脑电图编码作为生成器组件的输入,同时结合感知损失以提高生成图像的质量。
我们提出了一种自监督框架,从脑电信号中学习图像表征,并在最广泛的脑电图像数据集上取得了最先进的结果。通过对配对图像刺激和脑电反应进行特征提取,然后使用对比学习来对齐这两种模态。在200种零样本任务中,我们达到了15.6%的top-1准确率和42.8%的top-5准确率。对脑电信号的时间、空间、频谱和语义方面的广泛实验表明了良好的生物合理性,这些结果对神经解码和脑-计算机界面的现实应用提供了有价值的见解。