神经拓扑优化（NTD）是一种用于决策空间再参数化和优化景观重塑的方法。研究发现，NN架构对优化过程和目标景观的最佳路径有重要影响。NN可能引入非凸性，延迟凸问题的收敛但增强非凸问题的探索。该研究突出了神经拓扑优化在非凸问题和专用GPU硬件上的潜力，以及在光滑景观中选择优化的NN架构和超参数的重要性。

神经拓扑优化（NTD）是一种用于决策空间再参数化和优化景观重塑的方法。NN架构的选择对优化过程有重要影响，NN引入非凸性，可能延迟凸问题的收敛但增强非凸问题的探索。该分析突出了神经拓扑优化在非凸问题和专用GPU硬件上的潜力，以及选择优化的NN架构和超参数以实现卓越性能的复杂挑战。

神经网络的置换对称性导致非凸性，但适当的置换可以消除障碍。研究发现弱线性连接性和强线性连接性，后者更理想。此外，发现一个置换可以对齐逐步训练和稀疏化的网络序列。首次证明随着网络宽度增加，强线性连接可能是可能的。

本文研究了具有非凸性和非光滑性的Wasserstein投影寻优问题，并提出了三种基于Riemannian优化算法的简单且复杂性保证的算法。实验证明了这些算法在PRW距离计算中的优越性。