具有无误差可微交换函数的广义神经排序网络

BriefGPT - AI 论文速递 · 2023-10-11T00:00:00Z

SortedNet是一种高效动态推断的深度神经网络解决方案，考虑了子模型的嵌套架构和共享参数，并以排序和概率的方式一起训练主模型和子模型。在推断过程中，无需搜索即可选择子网络，并且生成的子网络具有最小的存储要求和高效的切换能力。实验证明该方法的有效性，并演示了在同时训练多达160个不同子模型的广泛可扩展性。