BriefGPT - AI 论文速递
·
探索半监督层次化堆叠编码器在法律判决预测中的应用
原文中文，约300字，阅读约需1分钟。
📝
内容提要
使用领域特定的预训练BERT模型和Transformer编码层提取长文档的句子嵌入，并通过无监督聚类提取隐藏标签，以提高预测法律案例判断结果的性能。实验结果显示了领域特定预训练Transformer编码器的重要性。
🎯
关键要点
-
使用领域特定的预训练BERT模型提取长文档的句子嵌入。
-
通过Transformer编码层对句子嵌入进行进一步处理。
-
利用无监督聚类从句子嵌入中提取隐藏标签。
-
该机制提高了法律案例判断结果的预测性能。
-
在ILDC数据集上的实验表明性能优于先前的方法。
-
实验结果强调了领域特定预训练Transformer编码器的重要性。
🏷️
