Differentiable Model Scaling (DMS)是一种高效且多功能的模型缩放方法，以直接且完全可微的方式建模宽度和深度。与以前的NAS方法相比，DMS具有三个优势：1）DMS在搜索过程中高效且易于使用。2）DMS实现了与SOTA NAS方法相媲美的高性能。3）DMS与各种任务和架构兼容。该论文引入了可微分的topk运算符以直接和可微分的方式建模结构超参数，并提出了DMS算法来搜索网络的最佳宽度和深度。在性能或搜索成本方面，DMS优于以前的SOTA方法。