基于视觉Transformer的ECO-M2F模型提出了一种自适应计算级别的策略，以提高图像分割任务的计算效率。通过训练原始架构、创建派生数据集和使用门控网络，该方法在保持性能的同时降低了编码器计算成本。实验证明该方法适应各种用户计算资源，并可扩展到目标检测任务。

该文章介绍了一种新型的分块自编码器（Patch AE）框架，旨在增强自编码器对异常图像的重构能力。该方法通过分块重构学习到的特征表示的空间分布特征向量的相应位置，提高了自编码器对异常的敏感性。该方法在 Mvtec AD 基准方面取得了最新的研究成果，证明了其有效性，并显示出在实际工业应用场景中的潜力。

我们提出了一种方法来提高语义分割方法的预测准确性，该方法包括构建一个基于卷积自编码器的预处理层的神经网络，并对整个网络进行训练。通过在城市景观数据集上实验比较，我们发现所提出的目标模型的均交并比（Mean IoU）比初始初始化的全卷积网络（FCN）高出 18.7％，而修改后的目标模型的均交并比显著高于初始化的 FCN。训练过程中准确性和损失曲线的变化表明这是由于泛化能力的改进。这些结果强有力地证明了该方法在提高 FCN 的预测准确性方面的显著有效性。该方法具有以下特点：相对简单，但对于提高 FCN 的泛化能力和预测准确性的影响显著；使用该方法增加的参数数量非常小，而计算时间的增加则相当大。原则上，该方法可以应用于其他语义分割方法。目前，在语义分割领域中，没有有效的方法可以提高现有方法的预测准确性，没有人发表过与我们方法相同或类似的方法，也没有人在实践中使用过这样的方法。因此，我们相信我们的方法在实践中是有用的，值得广为人知和使用。

物理整合生成建模是一种混合或灰箱建模，通过使用变分自动编码器作为生成模型来改善重建保真度和对噪声的鲁棒性。在人体运动数据集上进行实证评估，结果验证了模型的有效性。

本文介绍了一种新的深度学习架构，用于红外和可见图像融合问题。该架构包括编码网络、融合层和稠密块，并设计了两个融合策略。与现有方法相比，该方法在评估方面取得了最先进的性能。

本文介绍了一种用于时间序列中的无监督在线异常检测的混合注意力和自编码器（AE）模型。该模型结合了注意力和自编码器的方法进行时间序列异常检测，并通过对自编码器潜在空间中的下一个时间步骤窗口进行预测，使用验证数据集中的阈值进行异常检测，并引入了基于错误的第一统计矩的替代方法，提高了准确性。验证了该模型在异常检测中的有效性。

本文介绍了一种基于UMAirComp框架的边缘联邦学习方式，通过模拟波束成形上传本地模型参数并更新全局模型参数，降低通信延迟和成本。提出了PAM和AGP算法，解决非凸非光滑损失约束下的大规模优化问题。在边缘联邦学习系统中获得较小的误差。测试结果表明UMAirComp系统对自主驾驶任务更敏感。

提出了一种新方法来提高知识蒸馏效率，通过使用紧凑的自动编码器提取特征并计算不同类别之间的相似度得分，然后对这些相似度得分应用 softmax 函数以获得软概率向量，这个向量在学生模型的训练中作为有价值的指导。实验证明，该方法在资源效率和模型准确性方面具有优势。

本文介绍了解决SemEval 2023 Task 2的体系结构和系统，评估了传统的条件随机场模型和经过自定义头部微调的大型语言模型。通过新的想法提高了模型性能，包括衰减辅助损失、三元标记混合和任务最优头部。最终模型在开发数据上达到了0.85/0.84的微观和宏观F1值，并在测试数据上达到了0.67/0.61。证明了预训练的LLM和额外特征/损失/模型工程技术的改进可以显著提高宏观F1分数。

我们研究了利用现有的多语言模型进行额外预训练的最佳方法，结果显示额外预训练可获得与从头开发的模型相当的性能。邻近语言的额外预训练几乎不会影响最终模型的性能。