阿里云云栖号 · 2023-12-07T06:41:30Z 面向垂直领域的知识预训练语言模型 💡 原文中文，约4100字，阅读约需10分钟。 📝 内容提要 阿里云PAI与华东师范大学合作在EMNLP2023发表了关于垂直领域预训练语言模型的论文。他们提出了一种通过双曲空间和对比学习来增强上下文语言表示的框架，解决了垂直领域知识稀疏的问题。模型在金融和医疗领域的下游任务上表现良好。 🏷️ 标签 EMNLP2023 华东师范大学 双曲空间 垂直领域预训练语言模型 语言模型 阿里云 阅读原文 生成长图 分享链接 已复制链接
