放松和惩罚:一种新的混合二进制超参数优化的双层方法
原文中文,约300字,阅读约需1分钟。发表于: 。近年来,双层方法在高维超参数的机器学习模型中的高效估计方面变得非常流行。本文通过适当的罚项,使用等效的连续双层重构方法解决了具有混合二进制超参数的优化问题,并提出了一个框架算法,可在适当的假设下保证提供混合二进制解决方案。此方法的普遍性允许在该框架内安全使用现有的连续双层求解器。我们评估了该方法在回归问题中估计组稀疏结构的性能,结果表明我们的方法优于基于放松和取整的现有方法。
本文介绍了一种使用双层方法进行高维超参数估计的新算法,通过适当的罚项和连续双层重构方法解决了具有混合二进制超参数的优化问题,并提出了一个框架算法来保证提供混合二进制解决方案。该方法在回归问题中估计组稀疏结构的性能优于现有方法。