放松和惩罚:一种新的混合二进制超参数优化的双层方法

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本文介绍了一种使用双层方法进行高维超参数估计的新算法,通过适当的罚项和连续双层重构方法解决了具有混合二进制超参数的优化问题,并提出了一个框架算法来保证提供混合二进制解决方案。该方法在回归问题中估计组稀疏结构的性能优于现有方法。

🎯

关键要点

  • 本文介绍了一种新的双层方法用于高维超参数估计。

  • 该方法通过适当的罚项和连续双层重构解决混合二进制超参数的优化问题。

  • 提出了一个框架算法,保证在适当假设下提供混合二进制解决方案。

  • 该方法允许安全使用现有的连续双层求解器。

  • 在回归问题中,该方法在估计组稀疏结构的性能上优于现有的放松和取整方法。

➡️

继续阅读