BriefGPT - AI 论文速递 · 2024-01-22T00:00:00Z OnDev-LCT: 面向联合学习的设备本地轻量级卷积变换器 💡 原文中文，约300字，阅读约需1分钟。 📝 内容提要 提出了OnDev-LCT，一种适用于具有有限训练数据和资源的设备的轻量级卷积变换器。通过高效深度可分离卷积和多头自注意机制，提取局部特征和全局表示。实验证明，在参数和计算需求更低的情况下，优于现有的轻量级视觉模型。适用于具有数据异质性和通信瓶颈的FL场景。 🏷️ 标签 FL场景 OnDev-LCT 卷积 多头自注意机制 深度可分离卷积 轻量级卷积变换器 阅读原文 生成长图 分享链接 已复制链接
