超参数优化中基于编码器的预热方法的再思考
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
该文章介绍了一种名为FLAT的新型标签少样本学习方法,利用Dataset2Vec启发的编码器学习数据集和列的低维嵌入,实现对未见过的数据集的知识传递和泛化。实验证明FLAT在新的标签数据集上成功泛化,并相对于基准模型有了显著改进。
🎯
关键要点
-
文章介绍了一种名为FLAT的新型标签少样本学习方法。
-
现有的少样本学习方法不适用于标签数据集,因其存在不同的列关系、意义和排列不变性。
-
FLAT方法涵盖了异构特征空间下数据集之间的知识共享。
-
FLAT利用Dataset2Vec启发的编码器学习数据集和列的低维嵌入。
-
FLAT促进了对未见过的数据集的知识传递和泛化。
-
解码器网络对预测目标网络进行参数化,适应标签数据集的异构性质。
-
对118个UCI数据集的实验证明FLAT在新的标签数据集上成功泛化。
-
FLAT相对于基准模型有显著改进。
➡️