利用对抗性训练的本地层次化方法进行层次文本分类
内容提要
该文综述层次文本分类研究，涵盖HiGen、深度强化学习标签分配、HPT、Seq2Tree、HBGL、HFT-ONLSTM、HJCL、HiTIN、HGCLR及弱监督神经方法，在ENZYME、WOS、NYT等数据集上性能优越。
延伸解读
层次文本分类的演进脉络
文章梳理了从2018年弱监督神经方法到2024年HiGen的多种层次文本分类技术，包括深度强化学习标签分配、HPT、Seq2Tree、HBGL、HFT-ONLSTM、HJCL、HiTIN、HGCLR等。这些方法在ENZYME、WOS、NYT等数据集上不断刷新性能，反映了该领域从早期弱监督到近期预训练语言模型与对比学习融合的趋势。
标签层次结构的利用方式
不同方法对标签层次结构的利用各有侧重：深度强化学习学习标签分配策略，Seq2Tree用序列到树框架建模层次标签，HBGL同时考虑全局和局部层次，HiTIN仅利用句法信息增强文本表示，HGCLR将层次结构嵌入文本编码器。这些方式共同表明，有效捕获标签间的层次关系是提升分类性能的关键。
性能提升与评估基准
文章提到深度强化学习方法平均提高33.4%的宏平均F1得分，并在五个公共数据集上优于现有方法；HPT在三组常用数据集上取得最先进表现；Seq2Tree在三个基准数据集上实现显著改进。这些结果均基于ENZYME、WOS、NYT等标准数据集，说明层次文本分类研究已形成较为一致的评估基准。
应对数据挑战的策略
针对数据不平衡和低资源问题，HiGen通过动态文本表示和层级引导损失函数，结合任务特定预训练策略来减轻类别不平衡；HPT引入零界多标签交叉熵损失以处理平衡不足和低资源情况；HJCL则用对比学习解决半监督学习中样本生成引入的噪声。这些策略显示了研究者对实际数据挑战的关注。
Q&A
层次文本分类有哪些主流方法？
文章综述了多种层次文本分类方法，包括HiGen、基于深度强化学习的标签分配、HPT、Seq2Tree、HBGL、HFT-ONLSTM、HJCL、HiTIN、HGCLR以及弱监督神经方法。
HiGen模型是如何处理层次文本分类的？
HiGen是一种基于语言模型的文本生成框架，通过动态文本表示方法和层级引导的损失函数，结合任务特定的预训练策略，处理数据和减轻类别不平衡问题，在ENZYME、WOS和NYT数据集上展示出优越性能。
深度强化学习在层次文本分类中有什么应用？
有研究提出使用深度强化学习的方法学习标签分配策略，探索标签的层次结构，并在训练和推断时进行一致的探索决策，以提高层次文本分类的性能。实验结果表明，该方法平均提高了33.4%的宏平均F1得分，并在五个公共数据集上优于现有的最先进的层次文本分类方法。
HPT方法如何提升多标签文本分类性能？
HPT是一种分层感知提示调节方法，通过构建动态虚拟模板和标记词，融合标记层次结构知识并引入零界多标签交叉熵损失，以提高预训练语言模型在HTC领域的性能。实验结果表明HPT在三组常用数据集上均取得了最先进的表现，能够有效地处理平衡不足和低资源情况。
Seq2Tree框架有什么特点？
Seq2Tree是一种基于序列生成的序列到树框架，用于建模层次标签结构。它在约束解码策略的基础上，使用动态词汇来保证结果的标签一致性，相较于以往的方法，在三个基准数据集上实现了显著且一致的改进。
HGCLR方法是如何工作的？
HGCLR是一种将层级结构直接嵌入文本编码器的层次引导对比学习方法。通过此方法，将正样本进行层次指导，以学习生成具备层次感知的文本表示，在三个基准数据集上的实验证明了HGCLR的有效性。
