HILL：层次感知的信息无损对比学习用于层次文本分类
内容提要
本文介绍了HJCL、HGCLR、HiTIN等多种层次文本分类方法，旨在解决半监督学习中的噪声问题和标签不平衡。这些方法在多个数据集上表现出显著的性能提升，尤其在处理复杂分类结构和提高分类效果方面。
延伸解读
层次文本分类的挑战与应对
层次文本分类面临标签结构复杂、标签不平衡以及半监督学习中的噪声等挑战。文章介绍的多种方法从不同角度应对这些挑战：HJCL利用对比学习减少噪声，HTCInfoMax建模标签-文本关系以处理不平衡，HiTIN则通过句法信息增强表示并降低内存消耗。这些方法共同推动了HTC领域的发展。
对比学习与层次结构的融合
对比学习在层次文本分类中展现出潜力。HGCLR将层级结构嵌入文本编码器，通过层次指导生成层次感知的表示；HiCL则从局部分段和全局序列两个层面进行对比学习，提升训练效率和效果。这些方法表明，将层次结构信息融入对比学习框架能有效提升分类性能。
预训练语言模型与提示学习
预训练语言模型在HTC中的应用日益广泛。HPT方法通过动态虚拟模板和零界多标签交叉熵损失，将层次结构知识融入提示学习，在低资源情况下表现优异。HiGen框架则结合动态文本表示和层级引导损失，处理多标签分类中的层次问题。这些工作显示了预训练模型与提示学习在HTC中的潜力。
性能提升与效率优化
多项研究在提升性能的同时关注效率。深度强化学习方法平均提高33.4%的宏平均F1得分；HiTIN在保持良好表现的同时减少内存消耗；HiCL通过分段编码降低计算复杂度。这些进展表明，HTC方法正朝着更高效、更实用的方向发展。
Q&A
HJCL方法是如何解决半监督学习中的噪声问题的？
HJCL方法通过层次化多标签文本分类和对比学习，构造批次数据以充分利用对比学习目标，从而解决噪声问题。
HGCLR方法的主要创新点是什么？
HGCLR方法将层级结构嵌入文本编码器，学习生成具备层次感知的文本表示，实验证明其有效性。
HiTIN模型如何增强文本表示？
HiTIN模型利用标签层次的句法信息来增强文本表示，表现良好且内存消耗少。
深度强化学习在层次文本分类中的作用是什么？
深度强化学习用于学习标签分配策略，探索标签的层次结构，从而提高层次文本分类的性能，宏平均F1得分平均提高33.4%。
HTCInfoMax方法解决了哪些层次文本分类中的问题？
HTCInfoMax方法解决了与样本不相关的标签信息和未考虑标签统计特性的问题，实验验证了其有效性。
HiGen框架是如何处理多标签文本分类中的层次问题的？
HiGen框架通过动态文本表示和层级引导损失函数，结合任务特定的预训练策略，处理数据和减轻类别不平衡问题。
