通过整体双 Lipschitz 性的直接参数化，对神经网络的灵敏度进行可证控制
内容提要
本研究提出了一种新的双Lipschitz可逆神经网络（BiLipNet），通过控制Lipschitz性和逆Lipschitz性来提升神经网络的鲁棒性。该方法结合了新型可逆残差层和正交层，在图像分类中实现高准确性，并有效抵御对抗性攻击。实验结果表明，该网络在多种数据集上表现优异，具备良好的可扩展性和鲁棒性。
延伸解读
双 Lipschitz 控制的实际意义
BiLipNet 同时控制 Lipschitz 性和逆 Lipschitz 性，前者限制输出对输入扰动的敏感度，后者确保不同输出对应可区分的输入。这种双向控制使网络在分类任务中既能抵抗对抗性扰动，又能保持输入的可辨识性，为鲁棒性提供了更全面的保障。
与谱归一化相比的边界优势
文章指出，BiLipNet 的认证基于增量二次约束，与常用的谱归一化方法相比能够实现更紧的 Lipschitz 边界。更紧的边界意味着对网络敏感性的估计更精确，有助于在训练中更有效地控制鲁棒性，避免过度保守的约束损害模型性能。
可逆结构与高效逆计算
BiLipNet 由新型可逆残差层和正交层组合而成，其逆计算被形式化为三运算符分裂问题，已知存在快速算法。这种设计不仅保证了双 Lipschitz 性质，还使得逆计算高效可行，为需要逆映射的应用（如生成模型或逆问题）提供了实用基础。
PLNet 与代理损失函数
基于 BiLipNet，作者提出了标量输出网络 PLNet，它满足 Polyak-Łojasiewicz 条件，可用于学习非凸代理损失函数。这类损失函数具有唯一的全局最小值且可高效计算，为优化非凸问题提供了一种有理论保证的途径，扩展了双 Lipschitz 网络的应用范围。
Q&A
BiLipNet是什么？
BiLipNet是一种新的双Lipschitz可逆神经网络，能够控制Lipschitz性和逆Lipschitz性，以提升神经网络的鲁棒性。
BiLipNet如何提升神经网络的鲁棒性？
BiLipNet通过结合新型可逆残差层和正交层，控制Lipschitz性和逆Lipschitz性，从而提升鲁棒性。
BiLipNet在图像分类中的表现如何？
在图像分类实验中，BiLipNet表现出高准确性，并有效抵御对抗性攻击。
BiLipNet的实验结果如何？
实验结果表明，BiLipNet在多种数据集上表现优异，具备良好的可扩展性和鲁棒性。
BiLipNet的主要贡献是什么？
BiLipNet的主要贡献是提出了一种具有强单调性和Lipschitz性的可逆残差层，并与正交层组合。
如何训练BiLipNet以提高鲁棒性？
通过设计基于交替方向乘子法的最优化方案，鼓励保持Lipschitz常数来促进鲁棒性。
